Das Handy und Schrumpfen der Privatsphäre: David Gerrold's "Pain In The Ass" Vorhersage ist nun 20 Jahre alt

@Ksheeeep hat mich auf dieses Fundstück aufmerksam gemacht. Es mutet fast unglaublich an wie akkurat David Gerrold vor fast genau 20 Jahren die Zukunft vorhergesagt hat, indem er technologische Entwicklungen antizipiert und die damals schon vorhandene Digitalfunktionalität in ein einziges Gerät projiziert, sowie neue Software Features, with Echtzeitübersetzer und Sprachassistenten, die genug Rechenpower benötigen, erdenkt. Gleichzeitig verspürt er aber auch schon den Pain In The Ass der damit einhergehen sollte.

Die "PITA Agency"

Gerrold nennt dieses Gerät, das wir heute einfach nur als „Handy“ oder vor einigen Jahren noch als „Smartphone“ bezeichneten, PITA: Personal Information Telecommunication Agent!

Dies ist für mich der erste interessante Aspekt: Er verwendet den Kontext der „Agency“ für ein solches Gerät, was weit mehr darstellt als eine „dumme“ Maschine, sondern eine Form von Autonomie vorsieht. „Agency“, so Wikipedia, bezieht sich nämlich auf

the abstract principle that autonomous beings, agents, are capable of acting by themselves; see autonomy

Dass unsere heutigen Pocket-Agents, a.k.a. Handies, auch oder vor allem auch Agenten im Sinne alter Vorstellungen von Spionage sind macht dieser kürzliche New York Times Artikel deutlich:

Die NYT hat Zugang zu Ortungsdaten der Handies von „nur“ 12 Millionen Bürgern in den USA erhalten. Diese kamen nicht mal von einem der großen Techunternehmen des Silicon Valley, sondern von einer von vielen Ortungsdatenfirmen. Über diese Information liest sich das Leben der Handyhalter wie ein offenes Buch für die, die Zugang haben. Eindrücklich ist das im NYT Artikel so beschrieben.

[The data] didn’t come from a telecom or giant tech company, nor did it come from a governmental surveillance operation. It originated from a location data company, one of dozens quietly collecting precise movements using software slipped onto mobile phone apps. You’ve probably never heard of most of the companies — and yet to anyone who has access to this data, your life is an open book. They can see the places you go every moment of the day, whom you meet with or spend the night with, where you pray, whether you visit a methadone clinic, a psychiatrist’s office or a massage parlor.

Unsere Pocket-Agents machen das über die installierten Apps „autonom“ und quasi by default. Das schlimme dabei ist, dass wir der Meinung unterliegen, dass wir, wenn wir PITAs im eigentlichen Sinne des Technology Enablements als personal information and telecommunication agents nutzen wollen, wir keine Wahl haben und Privatsphäre abgeben müssen! Als wäre dies auswegs- oder im Merkel’schen Sinne alternativenlos. Im NYT Artikel dazu dieses Zitat:

“The seduction of these consumer products is so powerful that it blinds us to the possibility that there is another way to get the benefits of the technology without the invasion of privacy. But there is,” said William Staples, founding director of the Surveillance Studies Research Center at the University of Kansas.

Tiny Brother der Datenschwamm, oder Pain In The Ass

Die 12 Millionen Handy-Ortungsdatensätze sind nur ein kleiner Ausschnitt dessen, was die Location-Data-Industrie täglich an Datenmengen umsetzt. Handies, als „Tiny Brothers“ oder Datenschwämme sind die neue Norm, wie William Staples mit dem Begriff der „everyday surveillance“ treffend formuliert:

“All the companies collecting this location information act as what I have called Tiny Brothers, using a variety of data sponges to engage in everyday surveillance.”

Das Zweite interessante an David Gerrold’s Vorhersage finde ich ist, dass er das Akronym PITA auch in der Bedeutung als „Pain In The Ass“ vorhersieht. Denn, wie er sagt, mit der permanenten Konnektivität wird das was ein jeder als Privatssphäre noch um sich trägt auch verloren gehen.

Es ist schon irre, dass es David Gerrold vor 20 Jahren so glasklar vor Augen hatte, was die Möglichkeiten der Technologie im positiven Sinne bringen werden und was diese gleichzeitig aber auch für den Einzelnen im Negativen bedeuten werden.

Surveillance Capitalism und Opt-Out
Der „Pain In The Ass“ des privatwirtschaftlich irgendwie entstandenen Überwachungssystems hat mittlerweile die Begrifflichkeit des „Surveillance Capitalism“ hervorgebracht und Künstler wie Bill Posters beschäftigen sich prominent damit, wie es zB auf der diesjährigen 1E9 Konferenz zu sehen war (wer Bill Poster’s „Spectre“ noch nicht kenn unbedingt den Anfang des Panel Mitschnitts ansehen):

Gleichzeitig erfreuen sich auch andere Formate wie der Paralelni Polis Hacker Kongress in Prag wachsender Beliebtheit:

Hier ging es heuer unter dem Motto „Opt-Out“ sogar um das systemische Große und wiederum Technologie, die uns eine neue Realität ermöglichen kann:

Use cryptographic technology to regain privacy, to save freedom, to step up from the first constrained realm and to build the second one.

Achieve new freedom using globality and flexibility.

Opt-out of the system!

Ähnlich dem werden Technologien, die Dezentralisierung und Privacy vorantreiben auch gerne als Freedom Technologies bezeichnet. Ein kleiner Eindruck dazu findet sich in diesem Artikel:

Was David Gerrold wohl „im wertesten Hintern heute so spüren“ würde, wenn er im Kopfe ein „second realm“ oder „freedom technologies“ vor Auge hätte?

2 „Gefällt mir“

Würde mich persönlich schon über ein aktiv notwendiges „Opt-In“ bei allem was am Handy passiert freuen, statt einem aktiv notwendigen „Opt-Out“ wie es heute defakto Standard und viel zu aufwendig ist. Denn der Geist ist doch so willig doch das Fleisch ist schwach…

3 „Gefällt mir“

Ist ja schon heute your choice! Die Frage ist, worauf wärest du bereit dafür zu verzichten!

1 „Gefällt mir“

welche Wahl hab ich denn? Kein Handy zu besitzen? Dann grenze ich mich selber aus. Man hat ja schon Probleme wenn man nicht WhatsApp oder sonst ein Tool aus dem Facebook Imperium nutzen möchte.

Jedes Handy, aber auch Browser oder sonst ein Tool, das mit mit dem Internet verbindet sollte standardmäßig so viel wie möglich lokal verarbeiten und so wenig wie nötig überhaupt in Server von irgendwelchen Firmen ablegen. Und wenn, dann nicht mit meiner Identität und so, dass es kein Kinderspiel ist, meine Identität aus den Daten herauszufiltern.

Signal als Messenger ist ein Wahl - die allerdings nicht viele Mitmenschen mitgehen. Brave Browser ist eine andere Wahl. Das sind aber nur Tropfen auf den heißen Stein. Die Politik wäre hier gefragt was zu tun.

Hast du alles was du auf deinem Handy einstellen kannst so eingestellt, dass du möglichst wenig von dir Preis gibst? Weisst du was du alles dafür tun kannst?

Findest du es okay, dass mit „Überwachungsstaat“-Praktiken viel Geld im Internet verdient wird, mit DEINEN Daten und du davon nicht mal weißt geschweige denn einen Cent siehst?

1 „Gefällt mir“

Es gibt internetunfähige Handy und man bleibt trotzdem erreichbar! Eben, die Frage ist, worauf man dann bereit ist zu verzichten.

Ich find’s nicht OK, dass mit meinen Daten Geld verdient wird und ich daran nicht partizipiere. Ich würd gern ein Opt in dafür haben: ich lasse meine Daten zu und krieg dafür Kohle mit, so eine Art Affiliate Programm.

2 „Gefällt mir“

Just for the records: David Gerrold ist Science Fiction Author, u.a. einiger der Star Trek Episoden (dazu wissen wohl @Ronit und @Michael mehr …), und kein „Technologe“, also Ingenieur oder Wissenschaftler:

Dass jedes Handy im übrigen auch ein „Vibrator“ integriert haben wird hat er nicht vorher gesehen (ha ha, kommt im Artikel unten vor; musste ja irgendwie sein…)
Und er macht, nachdem die PITA Projektion zweifelsohne ein prominenter Erfolg für ihn war, nun Vorhersagen zum Zeitalter der KI und Roboterassistenten:

Was ich persönlich schön finde ist darin die Aussage:

“We must not give up the most essential part of being human: the ability to connect with each other.

1 „Gefällt mir“

Ein Wunsch der dem Internet zu Beginn schon inne war. Und heute wieder aktueller denn je scheint.

2 „Gefällt mir“

Kannst auch ohne dein Handy machen! Lass nächstes Wochenende auf einen Glühwein gehen;-)

3 „Gefällt mir“

Solange das Geldverdienen als Opt-In nicht möglich ist (Brave Software bietet eine Möglichkeit über den BAT im Werbekontext), kannst du den Datensaft, soweit heute machbar, wie hier in nur 3 einfachen Schritten abdrehen:

So schmeckt der Glühwein noch besser :wink:

1 „Gefällt mir“

Cheers :wine_glass:

1 „Gefällt mir“

Leider ist es keine NUR Menschliche Fähigkeit, mit einander in Verbindung zu treten!!!
Auch Tiere untereinander, Hunde-zu- Katzen - zu Menschen, Pflanzen untereinander etc. können miteinander kommunizieren.
Aufgrund des Lernens der jeweils „anderen“ Sprache ist die Kommunikation nur etwas langsamer, ähnlich, wie wenn wir eine Fremdsprache lernen. Und beobachtet man Tierverhalten bei Rettungsaktionen stellt man sofort die kommunikative Reaktion fest - egal, wer oder was gerettet wurde.

Ich würde sagen ZUM GLÜCK ist es keine nur dem Menschen eigene Fähigkeit!

Auch das ist sehr richtig erkannt!!! Aber damit wird auch klar, das KI mit den Eigenschaften des „nicht vergessen können“ und des einfach „schneller lernen können“ - auch Kommunikation, nicht nur für die Menschheit, sondern für die Natur insgesamt ein gefährlicher, vielleicht sogar tödliche Konkurenz werden wird.

Inwiefern ist das nicht vergessen und schneller lernen können tödlich für uns? Oder meinst du, weil KI (in Bezug auf das mit einander in Verbindung treten wie oben zum Thema war) nicht mehr mit uns und anderen in Verbindung treten kann, bzw wir nichts mehr mit ihr und umgekehrt anfangen können?

Am Beispiel des Telefonbuches Deutschland möchte ich die Lernfähigkeit darstellen:
Wir Menschen könnes es lesen und anderen Menschen daraus sogar Auskunft geben -
Jede Nummer einzeln suchen und kommunizieren.
jeder Roboter braucht weniger als 1 Minute, um das ganze Wissen (alle Tel-Nummern) auf seine Festplatte zu bekommen. Mit Hilfe von Übersetzungskomputern können wir in vielen Sprachen kommunizieren - noch sehr langsam UND emotionslos! was wäre, wenn KI eine eigene Sprache entwickelt, um schneller zu kommunizieren und wir die gar nicht verstehen können? Einmal die Aufgabe an den Computer gestellt, wird die Aufgabe bestimmt von KI gelöst werden können - und dann??? Ist es nicht schon jetzt so, das die Programme geschützt sind, dass sie nicht gehakt werden können und sie in der Folge auch nur noch von Insidern gelesen werden können? Ist nicht das Sprachproblem, was wir mit deutschem Spezialrecht (Steuer~, Erbschaft~, GmbH~, Straf~ etc) täglich gezeigt bekommen, das wir trotz immer genauer Regeln/Gesetze keine Sicherheit mehr empfinden? Ist es nicht die Kommunikation, die uns verloren geht in der Menge der KI-Ausdrucksmöglichkeiten und der Geschwindigkeit von KI, die uns machtlos werden lässt, weil wir es nicht verstehen können?

Hm, bin mir nicht sicher ob ich dich verstehe in Sachen Kommunikation. Das mit dem Fakten abspeichern schon.

Zum Einen sagst du, dass es ein Sprachproblem gibt und die „KI-Sprache“ (ich bezeichne das einfach so), die wir nicht verstehen, uns daher natürlicherweise von ihrem „Innenleben“ ausgrenzt. Ja, aber so what? Solange die KI damit für sich selber arbeitet um irgendwas für mich zu lösen, was sonst jemand anderes schlechter macht… die wenigsten verstehen die Sprache der Physik und trotzdem schmeissen sie eine Asiafertigsuppe in die Mikrowelle und essen sie dann warm. Das Ding tut was es tun soll und das intern mit der Physik der Mikrowellen.

Anders wird es wenn KI die KI Sprache nutzt, um sich zB mit anderen KI Systems abzusprechen und so koordiniert gegen - sagen wir - Menschen vorgeht. Diese Zielsetzung müsste sie erstmal von jemanden eingesetzt bekommen. Bestimmt gibt es sowas im militärischen Bereich jetzt oder irgendwann. Ob es von dort dann in die zivile Welt kommt? Das ist sicherlich ein Szenario, aber zu Dunkel. Genauso kann man auch positiv über das Potential nachdenken (Ich muss nicht mehr Telefonbücher auswendig lernen und von der Nummernsuche bis zur Reservierung eines Tisches / Kauf von Kinotickets machen alles KI Bots für mich - finde ich ziemlich gut. Ausserdem können Robos mein Haus putzen und Auto waschen).

Zum Anderen sagst du glaube ich auch, dass die Geschwindigkeit und Vielfältigkeit an KI Tools ein Arsenal ergibt, das sich immer schneller erneuert oder wächst, sodass wir damit letztlich überfordert sind. Ähnlich wie im Recht - das sicherlich kein normaler Mensch auswendig kann und sich deshalb danach richtet, sondern irgendwie deshalb, weil es sich idealerweise aus unserem Gerechtigkeitssinn ableitet. Bei KI Tools ist das nicht unbedingt der Fall, und evtl sind diese Werkzeuge von ihren Machern auch nicht so konzipiert, dass sie „Gutes“ tun. Und das ist etwas, was nicht unbedingt hilfreich ist? Insbesondere wenn die Macher KIs selbst sind. Hm - wie kann man dann gewährleisten, dass die Dinger uns dienlich bleiben? Verwässert sich der ursprünglich von einem Menschen implementierte „Code to do good“ über die Zeit, wenn die KIs sich selber weiterbauen? Wenn ja wann, wann nicht?

Glaub es ist auch sehr schwierig (fällt mir gerade auf) einfach von der „KI“ zu reden. In einigen der Fälle oben sind es autonome Systeme, die sich irgendwann verselbstständigen.

Liebes 0x78, Ich glaube, du hast die gradwanderung erkannt… Wenn der „Code to do good“ nicht mehr human, sondern KI = Wirtschaftlich entschieden wird, und wir mangels Kommunikationsproblemen keinen Zugriff auf den Code mehr haben, wird es Gruselig! da sind Militärische Roboter mit KI ja noch erkennbar, aber was wenn Pflegeroboter mit KI die Wirtschaftlichkeit einer Ernährung bestimmen sollen und bei bettlägerigen Patienten Entscheidungen treffen? Oder Politiker mit KI-Unterstützung Entscheidungen fällen?
Im Übrigen fuktioniert unser Rechtssystem ja schon so ähnlich. Kaum ein Richter hat noch Kompetenz und fordert für alles sachverständige Gutachten ein, oder beim Fußball,- der Videoassiszent