In Indien bestimmt eine unheimliche Mischung aus fehlendem Datenschutz, qualifizierten, aber schlecht bezahlten Subunternehmern und politischen Gefälligkeiten den Markt für Fitness-Tracker und die dazugehörigen Apps. Der Longread von Gayathri Vaidyanathan gibt Einblick in ein System, das den dystopischen Szenarien, vor denen Datenschützer und Arbeitsrechtler schon lange warnen, schon sehr nahe kommt.
Von Gayathri Vaidyanathan
Es ist Anfang des Jahres. Ein Chatbot mit „Künstlicher Intelligenz“ und eine Ernährungswissenschaftlerin geben Ratschläge an 106 Kunden, die eine personalisierte Fitness-App abonniert haben – entwickelt von GOQii, einem indischen Health-Tech-Unternehmen mit Sitz in Kalifornien. Mal mehr, mal weniger sorgfältig tragen alle User ihre Fitness-Tracker am Handgelenk. Außerdem fotografieren sie alles, was sie essen, mit der GOQii-App und laden die Bilder auf die GOQii-Server hoch.
Wir nennen die Ernährungsberaterin nur Auftragnehmerin . Einerseits, um ihre Identität zu schützen, andererseits, weil sie eine Geheimhaltungsvereinbarung mit GOQii unterschrieben hat. Außerdem spiegelt dieser Name ihren Beschäftigungsstatus wider. Wenn sie sich in ihr Dashboard einloggt, wird ihr ein detailliertes Bild vom Leben ihrer Player präsentiert. Das ist die von GOQii bevorzugte Bezeichnung für Abonnenten, die rund 2.000 Rupien – etwa 23 Euro – pro Quartal dafür bezahlen, täglich Lob, Tadel oder einen Motivationsschub zu bekommen, damit sie an ihren Gesundheitsplänen festhalten.
Vorgestern haben Sie Kuchen gegessen, bitte versuchen Sie, das bei einmal pro Woche zu belassen.
„Gute Fortschritte gestern. Haben Sie das tiefe Durchatmen vergessen?“ Die Auftragnehmerin schreibt einem Mann, der jeden Tag fünf Minuten tief durchatmen sollte. „Ein großer Fortschritt gestern“, sagt sie sie zu einem, der am Vortag mehr als 15.000 Schritte ging. Die kurzen Nachrichten, die von HuffPost India eingesehen werden konnten, erscheinen als Push-Benachrichtigung auf dem Telefon der User.
„Kommen Sie wieder ins Internet?“, fragt sie eine 42-jährige Frau, die ihre Gesundheitsstatistik nicht aktualisieren konnte, weil ihre Internetverbindung nicht funktionierte. Ein Player, der vom Plan abgewichen ist, bekommt eine ermutigende Nachricht. „Gute Fortschritte gestern!“, schreibt sie. „Hast du gestern Junkfood gegessen?“ „Ich habe kein Junkfood gegessen, sondern ein bisschen Lamm Biryani mit Zwiebeln in Quark“, antwortet der Player. „Vorgestern haben Sie Kuchen gegessen, bitte versuchen Sie, das bei einmal pro Woche zu belassen.“ „Ja, auf jeden Fall.“ „Gut“, sagt die Auftragnehmerin.
Die Daten der Player werden weiterverkauft
Jede Interaktion wird vom System protokolliert und dazu verwendet, die Fähigkeiten des KI-Chatbots von GOQii zu verbessern und den monatlichen Bonus der Ernährungswissenschaftlerin zu bestimmen. Gemeinsam sollen sie – Mensch und Bot – sicherstellen, dass sich die Player von GOQii mit der App beschäftigten und weiterhin ihre Daten – Gewicht, Essgewohnheiten, Krankengeschichte, tägliche Bewegungsroutinen – auf die Server des Unternehmens hochladen.
Viele dieser Daten werden gebündelt und an Datenkonzerne wie Facebook, an Kundenmanagement- und Marketingfirmen wie CleverTap oder an Krankenversicherungen wie die Max Bupa Health Insurance oder an die Swiss Re, eine Rückversicherungsgesellschaft, weitergegeben. GOQii ist nicht das einzige Unternehmen, das so agiert. Der ebenfalls in Indien aktive Konkurrent HealthyifyMe hat ähnliche Praktiken. Wie kleinteilig indische Gesundheits-Apps intime Daten sammeln, erschreckte die Datenschutzexperten, die die Programme Apps für die HuffPost India analysierten.
Im Laufe des Tages kopiert die Auftragnehmerin viele ihrer Gespräche mit Kunden und fügt sie bei den nächsten Kunden wortgleich wieder ein. Copy and Paste. Das macht es schwer, sie vom KI- Chatbot zu unterscheiden, der selbstständig seine Gespräche mit einer Reihe von Leuten, die hinter ihrem Pensum zurückbleiben, führt: „Hallo , kann ich Ihnen bei irgendetwas behilflich sein?“, schreibt die KI. „Möchten Sie, dass ich Ihnen bei einigen einfach zuzubereitenden Rezepten helfe?“ „Hi, was haben Sie sich heute vorgenommen?“
Eine Zeit lang gab es die Vorstellung, dass eine junge Inderin aus der Mittelschicht mit einem College-Abschluss in einer der Metropolen einen Job bekommen würde, der ihr ein festes Einkommen, eine Karriere, ein Haus, ein Auto und eine Privatschule für ihre Kinder sichern würde. Allzu triviale Aufgaben würden automatisiert und junge Berufstätige sollten daher die Freiheit haben, zu denken, innovativ zu sein und das zu tun, was Politiker gerne als „wissensbasierte“ Arbeit bezeichnen. Doch das hat nur für eine winzige Elite funktioniert.
Digitale Fließbandarbeit
Stattdessen findet sich eine beträchtliche Anzahl von indischen Hochschulabsolventen in den virtuellen Fabrikhallen der Datenökonomie wieder. Sie hängen vor ihren Laptops und Smartphones und müssen eine Reihe von sich ständig wiederholenden Aufgaben ausführen. Wie an einem digitalen Fließband. Einst traten Arbeiter in heruntergekommen Fabriken ihre Schichten an. Im 21. Jahrhundert finden sie sich in ihren Schlafzimmern wieder, abgespeist mit Kurzzeitverträgen mit minimalen Benefits, um gestressten Kunden, die nicht genug Zeit für ihre Gesundheit, Freizeit oder Hobbys finden, behilflich zu sein – angepasst an die jeweilige Zeitzone.
Fitness-Apps wie die von GOQii und von Konkurrenten wie HealthifyMe sind Sinnbilder dieser seltsamen neuen Welt, in der sowohl Arbeit als auch Freizeit durch die Datenökonomie umgekrempelt werden: Der Mensch als App-User erzeugt kontinuierliche Datenströme, die der Mensch als Datenarbeiter verarbeitet und monetarisiert.
Die Auftragnehmerin spiegelt diesen Trend wider. Ihr Vater und ihre Brüder sind – ganz altmodisch – Ärzte und weckten auch bei ihr das Interesse, später im Gesundheitsbereich zu arbeiten. Sie hat einen Bachelor und ein Diplom in Ernährungswissenschaften und absolviert derzeit ein Fernstudium, um auch noch den Master zu bekommen. Sie hofft, dass der Abschluss ihr dabei helfen wird, regionale Cheftrainerin bei GOQii zu werden. Im Moment ist sie allerdings noch nicht einmal eine Vollzeitbeschäftigte. Sie steht auf der untersten Stufe der Unternehmenshierarchie und verdient ein variables Gehalt als Ernährungsberaterin auf Auftragsbasis.
Millionen von Menschen nutzen Gesundheits- und Fitness-Apps
Im August 2019 war die App von GOQii, die nur mit einem Abo nutzbar ist, auf etwa 430.000 Smartphones in Indien installiert – mit einer täglichen Öffnungsrate von 9,29 Prozent. Das deutet darauf hin, dass etwa 40.000 Menschen den Dienst täglich nutzen, zumindest laut Daten der Analysefirma SimilarWeb. Die App von HealthifyMe, dem Marktführer in Indien, war laut SimilarWeb auf 1,9 Millionen Telefonen mit 98.000 täglichen Nutzern installiert. HealthifyMe selbst veröffentlichte allerdings andere Zahlen: mehr als 11 Millionen registrierte User, von denen 250.000 täglich aktiv sind. Zum Vergleich: Fitbit, die weltweit beliebteste Fitness-App, kam im Sommer 2019 auf 5,3 Millionen Installationen in den Vereinigten Staaten, dem wichtigsten Markt des Unternehmens, während MyFitnessPal, 3,6 Millionen Installationen verzeichnete.
Sowohl GOQii als auch HealthifyMe übertragen personenbezogene Daten (eine eindeutige ID für Werbetreibende und Geräteinformationen) automatisch an Dritte, darunter Facebook sowie die Mobile-Analytics-Unternehmen Branch und AppsFlyer, sobald ein Nutzer die App zum ersten Mal öffnet. Bis August baten beide Apps erst nach dem ersten Datentransfer um die Erlaubnis des Users. HealthifyMe teilte allerdings mit, dass es die Genehmigung inzwischen frühzeitig einholt.
GOQii verzeichnete in den Jahren 2017-2018 einen Umsatz von umgerechnet etwa 1,3 Millionen Euro, HealthifyMe brachte es auf das Doppelte. Das geht aus den Angaben hervor, die die Unternehmen bei Behörden machen mussten und auf die die Research-Firma Tracxn Zugriff hatte. Keines der beiden Unternehmen erzielte einen Gewinn.
Nähe zur Regierung erspart Kritik am Umgang mit Daten
Die Firmen verkaufen Wellness , indem sie die User zu gesunden Gewohnheiten drängen, überwacht von Trainern, die den Playern Tipps, Ernährungsempfehlungen und eine tägliche Dosis Motivation zukommen lassen. Ohne Daten würde das nicht funktionieren. Daten, die sowohl von den Nutzern als auch von den Trainern stammen – zur Optimierung der User-Gesundheit, zur Monetarisierung, indem sie an Dritte verkauft werden, zum Trainieren von KIs sowie zur Steigerung der Mitarbeitereffizienz.
Während das Datensammeln von Technologieunternehmen in den Vereinigten Staaten und Europa inzwischen immer stärker von Regulierungsbehörden überprüft wird, gibt es in Indien noch kein zeitgemäßes Datenschutzrecht. Und die Gesundheits-App-Anbieter konnten Kritik an ihrer Praxis bislang abwehren, indem sie zum einen den umstrittenen Vorstoß des indischen Premierministers Narendra Modi unterstützten, dass Daten von Indern nur innerhalb der Landesgrenzen gespeichert werden dürfen.
Zum anderen profitierten sie von Modis persönlicher Agenda, zu der auch die Kampagne „Digital India“, die alle Inder online bringen soll, sowie das Bewerben von Fitness und Yoga gehören. Vor knapp einem Jahr rief er das „Fit India Movement“ aus und forderte die Menschen auf, Fitness zu einem Teil ihres Lebensstils zu machen.
Noch am selben Tag lancierte GOQii eine Fit-India-Special-Edition seines Fitness-Trackers, die vom Bollywood-Schauspieler Akshay Kumar beworben wurde, der für seine Nähe zum Modi-Regime bekannt ist. (Laut Economic Times hat er außerdem eine unbekannte Summe in GOQii investiert.) Ein paar Tage später wurde über das LinkedIn-Konto des GOQii-Gründers Vishal Gondal ein Brief von Premierminister Modi geteilt, in dem er GOQii für die Unterstützung von #FitIndia lobte.
Arbeit aus dem eigenen Schlafzimmer
Um 9.30 Uhr ist die Auftragnehmerin in ihrer Wohnung, in der sie mit ihren Schwiegereltern, ihrem Ehemann, dem Verkaufsleiter einer Zeitung, und ihrem Hund lebt. Genauer gesagt befindet sie sich auf ihrem Bett in ihrem neun Quadratmeter großen Schlafzimmer, in dem sie die meiste Zeit des Tages im Schlafanzug arbeitet. Sie mag ihren Job. Sie ist froh, in ihrem Zimmer arbeiten zu können, anstatt ihrer Schwiegermutter bei der Hausarbeit zu helfen. Und sie findet ihre jetzige Aufgabe für GOQii entspannter als die Arbeit für HealthifyMe, wo sie eineinhalb Monate verbrachte. „Die haben mich verrückt gemacht“, erinnert sie sich.
Andere HealthifyMe-Ernährungsberater und Mitarbeiter, die beim Onlineportal Glassdoor eine Bewertung der Firma hinterließen, beschreiben ebenfalls ein stressiges Umfeld mit langen Arbeitszeiten. Einige Frauen gaben an, dass sie mit der Zeit eine Reihe von Gesundheitsproblemen entwickelten. „Wir predigten Gesundheit, aber wir waren die ungesündesten Menschen“, sagt eine ehemalige Mitarbeiterin.
In den nächsten vier Stunden telefoniert die Auftragnehmerin fünf Mal, duscht und lässt sich von ihrer Schwiegermutter ein Mittagessen kochen: verschiedene Currys mit Spinat, Kartoffeln, Aubergine, indischem Frischkäse und Kürbis mit einer Portion Reis. Um 13.00 Uhr ist sie wieder in ihrem Zimmer, auf ihrem weichen, einladenden Bett, vor ihrem Laptop. Ihr GOQii-Dashboard zeigt an, dass sie bisher nur an zwölf von 52 Playern, die ihr an diesem Tag zugeteilt wurden, eine Nachricht geschickt hat. Die KI soll sich heute um 54 Player kümmern. Um aufzuholen, fängt die Auftragnehmerin an, entschlossen auf ihren Laptop einzuhämmern.
„Schön, die Fortschritte zu sehen“, schickt sie an einen ihrer Kunden. „Wie wäre es heute mit 8.000 Schritten?“ Der nächste Player auf der Liste hat keine Daten in die App hochgeladen. Ein Problem. Denn das Dashboard weist allen Playern eine Bewertung zu, wobei die aktivsten mit „wow“ gekennzeichnet sind. Die anderen werden mit hoch, mittel, niedrig und passiv eingestuft. Verhält sich einer der Player der Auftragnehmerin passiv, kann sie ihm keine Nachricht mehr zukommen lassen. Damit brechen auch ihre Leistungskennzahlen ein – und ihr Gehalt. GOQii verfolgt außerdem, wie schnell sie auf Nachrichten von Playern reagiert (normalerweise innerhalb von 15 Minuten), welche Bewertung sie von Playern bekommt (4,5 von 5 Sternen) und wie oft die Player auf ihre Nachrichten reagieren.
Die letzte Kennzahl, genannt Engagement-Prozentsatz, ist wichtig, weil engagierte Kunden zufriedene Kunden sind und ihr Abonnement eher verlängern. Wenn der Engagement-Prozentsatz 25 Prozent übersteigt, bekommt die Auftragnehmerin jedes Mal, wenn ein Abonnement verlängert wird, einen Bonus von bis zu 1.500 Rupien. Heute liegt sie allerdings bei 14 Prozent und sagt, es sei schwierig, das Bonusziel zu erreichen.
Pharmakonzerne zahlen unbemerkt die Abonnements – und bekommen Daten
Sie ruft einen Player an, der nicht geantwortet hat, und stellt ihm eine Reihe von Fragen. „Hallo? Hier ist Ihre GOQii-Trainerin. Haben Sie die App geöffnet? Haben Sie sich wieder and Ihre Empfehlungen gehalten, zum Beispiel das Trinken von Zitronen- Zimt-Wasser? Oder Schritte? Tun Sie überhaupt irgendetwas? Wann fangen Sie wieder an? Sie werden passiv. Öffnen Sie Ihre App nur einmal. Sonst wird Ihr Profil passiv. Ok? Auch wenn Sie das Armband nicht benutzen, öffnen Sie die App einmal. Und denken Sie daran, dass Sie Diabetes haben. Wir müssen das kontrollieren.“
Sie beendet ihr Gespräch und wendet sich an den nächsten Player auf der Liste. Die KI hatte ihm gestern eine SMS geschickt: „Haben Sie das Gefühl, dass Sie heute an Ihren Gewohnheiten festhalten können?“ Heute ist sie, der Mensch, an der Reihe. „Wie viel Wasser haben Sie gestern getrunken? Was haben Sie heute Mittag gegessen?“
Haben Sie sich wieder and Ihre Empfehlungen gehalten, zum Beispiel das Trinken von Zitronen- Zimt-Wasser?
Um 16.30 Uhr ruft sie einem Player an, der an einer nichtalkoholischen Fettlebererkrankung leidet. Die Person hat sich für GutFit angemeldet, ein GOQii-Programm, bei dem Ärzte ihren Patienten ein kostenloses dreimonatiges Abonnement als Teil der Behandlung, zu der auch Medikamente gehören, anbieten – bei Reizdarmsyndrom, Fettleberkrankheit und Säurereflux. Ohne, dass die Patienten es erfahren, zahlt Abbott Laboratories, ein amerikanisches Unternehmen für pharmazeutische und medizinische Geräte, für dieses vom Arzt gratis verschriebene Abonnement.
Im Gegenzug erhält Abbott aggregierte, anonymisierte Daten von GOQii – über die Anzahl der eingeschriebenen Patienten, das Engagement bei Telefongesprächen und Chats und darüber, ob sich die Ergebnisse der Patienten, wie Gewicht und Schlaf, verbessern, sagt ein Abbott-Sprecher.
Er bestätigt, dass die meisten GutFit-Patienten nicht wissen, welche Rolle Abbott spielt, insbesondere weil die Patienten zwar die Geschäftsbedingungen von GOQii unterschreiben, es aber keine separate Einverständniserklärung über den Datenfluss an Abbott gibt.
Der Abbott-Sprecher teilt jedoch auch mit, dass kein Disclaimer notwendig sei, da das Unternehmen nur aggregierte Daten und keine persönlichen Daten erhalte. „GutFit wurde entwickelt, um die geltenden Gesetze und behördlichen Anforderungen zu erfüllen, einschließlich derer, die sich auf den Schutz der Privatsphäre und den Datenschutz beziehen“, so der Abbott-Sprecher.
Sind die Ratschläge wirklich „personalisiert“?
Die Auftragnehmerin will ihrem Player ein paar „Gewohnheiten“ beibringen, darunter das Trinken von Wasser vor den Mahlzeiten, die Verkleinerung der Portionsgrößen und den Verzehr von Tulsi-Blättern, von denen man annimmt, dass sie bei Sodbrennen helfen, indem sie die Magensäure senken. Solche Gewohnheiten sind Teil von GOQii’s „personalisiertem“ Fitnessprogramm.
„Ich gebe Ihnen eine neue Gewohnheit: kleine, häufige Mahlzeiten, d.h. kleine Mahlzeiten über den Tag verteilt“, sagt sie am Telefon, während sie ein Fenster auf ihrem Dashboard öffnet, die Vorlage „kleine, häufige Mahlzeiten“ aus einem Dropdown-Menü auswählte und auf Senden drückt. „Ich schicke Ihnen das, um Ihre Stoffwechselrate aufrechtzuerhalten, damit Ihr Gehirn anzeigt, dass die Verdauung und der Stoffwechsel stattfinden, es zu Fettabbau kommt und das Problem mit der Magensäure abnimmt“, fuhr sie fort. „Das Abendessen findet dabei früh statt, wenn Sie danach Hunger haben, versuchen Sie es mit ein bisschen Joghurt.“
In der Theorie sieht das nach einer großartigen Sache aus. Aber ich glaube nicht, dass ich spezifische Ratschläge bekommen habe.
Solche Tipps könnten einigen Usern wohl durchaus helfen, und kontinuierliches Feedback sowie das Monitoring durch einen Ernährungsberater könnten einige motivieren, auf dem richtigen Weg zu bleiben. Was jedoch die personalisierten Pläne betrifft, so legen Interviews mit Ernährungswissenschaftlern, Anwendern der Apps und Gesundheitsexperten nahe, dass die meisten davon nur aus allgemeinen Ratschlägen bestehen – mit geringfügigen Modifikationen für den jeweiligen Kunden. Und es gibt nur wenige glaubwürdige klinische Studien, die zeigen, dass mobile Gesundheitsanwendungen funktionieren.
„In der Theorie sieht das nach einer großartigen Sache aus. Aber ich glaube nicht, dass ich spezifische Ratschläge bekommen habe“, sagt Mihir Kajanchi, ein ehemaliger GOQii-Player, der die App 2016 installiert und dann 18 Monate lang genutzt hat. „Es war sehr allgemeines Zeug, was sie meiner Meinung nach bei Google gefunden haben.“
Kajanchi hatte einen stressigen Job in der Finanzindustrie in Mumbai, bei dem er den ganzen Tag sitzen musste. Und er hatte zugenommen. Zwei Monate lang verwendete er also einen GOQii-Fitness-Tracker, bis er das Ladegerät verlor. Mit dem Coaching-Service machte er auch dann noch weiter, weil er es praktisch fand. Doch insgesamt habe er von dem Service nicht profitiert, sagt er. „Wenn ich meine Erfahrung bewerten müsste, würde ich 3 von 5 Sternen geben.“
Die Ernährungswissenschaft ist weit vorangeschritten. Wissenschaftler haben herausgefunden, dass standardisierte Diätpläne bei Menschen mit individuellen Gesundheitszielen nicht funktionieren – und sogar Schaden anrichten können. Ein sprunghafter Anstieg des Blutzuckerspiegels nach einer Mahlzeit zum Beispiel ist ein wichtiger Risikofaktor für Diabetes, aber der Blutzuckerspiegel steigt auf unterschiedliche Weise an.
Klinische Studien zu den Gesundheits-Apps gibt es nicht
In einer Studie, die 2015 in der Fachzeitschrift Cell veröffentlicht wurde, verfolgten der Biologe Eran Segal und seine Kollegen vom Weizmann Institute of Science in Israel bei 800 Menschen Glukosespitzen nach einer Mahlzeit und fanden heraus, dass Darmbakterien, Genetik und andere Faktoren eine wichtige Rolle bei der Verarbeitung von Lebensmitteln spielen. „Es gibt Empfehlungen, die durchaus allgemeingültig sind, wie zum Beispiel, sich nicht zu überessen oder auf Junk Food zu verzichten“, sagt Segal. Darüber hinaus werde es kompliziert. „Vollkornreis, zum Beispiel, kann Ihren persönlichen Blutzuckerspiegel in die Höhe treiben, während das bei mir vielleicht nicht der Fall ist. Eine generelle Empfehlung, [braunen Reis zu essen] kann für manche Menschen daher sogar sehr schlecht sein.“
Segals Team will diese Erkenntnisse in ein Unternehmen für personalisierte Ernährung einbringen. Sie entwickeln einen Machine-Learning-Algorithmus, um die Darmflora einer Person und andere Faktoren zu bewerten und daraus einen persönlichen Diätplan zu erstellen. Es bleibt abzuwarten, ob Segals Ansatz langfristig funktionieren wird, aber im Gegensatz zu den indischen Gesundheits-Apps testen sein Team das Produkt in einer randomisierten klinischen Studie. Vorläufige Ergebnisse deuten darauf hin, dass die personalisierten Ernährungspläne bei etwa der Hälfte der Studienteilnehmer eine Wirkung zeigen.
„Ich finde, dass jeder, der behauptet, eine diätetische Intervention anzubieten, die Verbesserungen bringen soll, auch ihre Wirksamkeit nach den höchstmöglichen Standards belegen sollte“, sagt Segal. Tushar Vashisht, der Mitbegründer von HealthifyMe, findet allerdings, sein Unternehmen müsse nicht beweisen, dass die Interventionen, die es in Form von Ernährungsplänen für Anwendet erstellt, funktionieren.
„Wir sind nicht mit einem neuen Medikament oder einer neuen Formel, einer neuen Diät oder irgendeiner neuen Lösung auf dem Markt, die klinische Studien erfordert“, schrieb er in einer E-Mail. „Es gab zahlreiche Studien, einschließlich klinischer Studien, über die Vorteile einer guten Ernährung und guter Trainingsgewohnheiten. Bei HealthifyMe setzen wir auf eine bestehende akzeptierte Lösung, die darin besteht, sich gesund zu ernähren und sich gut zu bewegen, und stellen sie auf eine leicht umzusetzende Weise zur Verfügung. Wir haben keine unabhängigen klinischen Behauptungen aufgestellt. Nachweisbare Vorteile können von jedem Anwender beobachtet werden und können, wenn er möchte, der Öffentlichkeit mitgeteilt werden.“
Menschen sind zu teuer, daher kommen Bots zum Einsatz
Wenn die Auftragnehmerin im Durchschnitt so arbeitet wie in diesem Monat, kann sie etwa 240.000 Rupien pro Jahr beziehungsweise 20.000 Rupien pro Monat verdienen, was etwa 230 Euro entspricht. Es kostet derzeit 3.500 Rupien, um das GOQii-Abo um ein Jahr zu verlängern. Das heißt, die Auftragnehmerin muss pro Jahr mindestens 68 Kunden dazu bringen, ihren Vertrag zu erneuern, damit sie ihr Gehalt als Umsatz für die Firma erwirtschaftet. Dabei sind die Kosten für den Betrieb eines Tech-Unternehmens allerdings nicht einkalkuliert: deutlich höhere Gehälter für IT-Mitarbeiter, Server- und Infrastruktur, Finanzierungskosten, Büroräume, Werbung und so weiter.
Obwohl viele die Auftragsnehmerin als schlecht bezahlte Arbeitskraft bezeichnen würden, ist sie nicht billig genug, um die Firmen in profitable Unternehmen zu verwandeln. Im Jahr 2018 gab die indische Tochtergesellschaft von GOQii – die Holdinggesellschaft ist in Delaware, USA registriert – laut ihrem geprüften Jahresabschluss etwa vier Millionen Rupien für die Gehälter von Coaches auf Auftragsbasis aus, zu denen auch die Auftragnehmerin gehört. Das entsprach 40 Prozent der Einnahmen, die GOQii mit Abonnements erzielen.
Wenn Unternehmen wie GOQii und HealthifyMe Gewinn machen wollen, müssen sie die Kosten für Personal minimieren. Zu diesem Zweck automatisieren sie große Teile des Coachings, auch wenn sie mit „Personalisierung“ werben, um ihre Angebote zu verkaufen. Im Jahr 2017 präsentierte HeathifyMe die KI Jarvis, die alle Daten, Chat-Protokolle und Telefongespräche zwischen Trainern und Benutzern überwacht. Jarvis generiert Nachrichten, die von Ernährungscoaches bearbeitet und an Benutzer gesendet werden können. Dies erhöht die Effizienz der Mitarbeiter. Jarvis erledigt 75 Prozent der Arbeit der Berater automatisch, sagte der Firmenchef Tushar Vashisht in einem Telefoninterview.
2019 stellte HealthifyMe dann Ria vor, einen KI-Chatbot, der Diätpläne und Ernährungstipps gibt – für 299 Rupien pro Monat (etwa 3,50 Euro). Ria ist so gut, dass die Benutzer, wenn sie die Wahl zwischen einem menschlichen Coach und dem Bot haben, in 54 Prozent der Fälle dem Bot schreiben, sagte Vashisht.
Den HealthifyMe-Ernährungsberatern war nicht klar, dass sie durch ihre Arbeit Jarvis ausbilden, bis der CEO die KI bei einem Event für alle Mitarbeiter im Jahr 2017 enthüllte. „Andere Unternehmen müssen vielleicht Millionen von Dollar ausgeben, um Menschen dazu zu bringen, KI zu trainieren, aber hier gehört das zu unserem Geschäftsmodell“, sagte Vashisht damals zu seiner Belegschaft. Der Bot Jarvis würde es jedem Ernährungsberater erlauben, mehr als 1000 Kunden gleichzeitig zu betreuen, verkündete er. Und die Coaches, die unwissentlich zu Bot-Trainern geworden waren, applaudierten.
„Es wird in den nächsten Jahrzehnten keine KI geben, die den Menschen ersetzen wird“, sagt Vashisht gegenüber HuffPost India . Vielmehr werde die künstliche Intelligenz die Rolle der Ernährungsberater stärken und ihr erlauben, sich auf kreativere Aufgaben zu konzentrieren.
Die intimen Daten der Nutzer gehören zum Geschäftsmodell
2018 gab GOQii laut Finanzdokumenten etwa neun Millionen Rupien für den Import „fortgeschrittener“ Fitness-Tracker aus. Diese Investition – etwa das Doppelte dessen, was sie für Trainer wie die Auftragnehmerin ausgaben – kann durchaus als ein Zeichen für die langfristige Geschäftsstrategie des Unternehmens gesehen werden: die Sammlung von Daten.
„Wer in der [Tech-Branche] eine Rolle spielen will, bekommt nur eine Nebenrolle, wenn er keine Möglichkeit hat, selbst Primärdaten zu erfassen und zu nutzen“, sagt Shripati Acharya, ein auf Gesundheitstechnologie spezialisierter Risikokapitalgeber bei Prime Venture Partners in Bangalore. Fitness-Apps sind nicht die einzigen, die an Daten heranwollen – schließlich bilden diese das Rückgrat der meisten Start-ups.
Apps und Tracker können intime Daten wie Geschlecht, Alter oder Standort basierend auf IP-Adresse, WiFi-Netzwerken und GPS ermitteln. Sie wissen, was die Benutzer gegessen haben, wie viel Wasser sie getrunken haben. Sie können die Anzahl ihrer Schritte, ihre Körpertemperatur und ihre Herzfrequenz messen – und Gesundheitsprobleme von Akne bis zu Fettleberkrankheiten, die Einnahme von Medikamenten und sogar den psychischen Zustand aus Interaktionen mit den Trainern herauslesen. Die Daten werden auf unbegrenzte Zeit gespeichert, es sei denn, der Benutzer beantragt die Löschung. Doch zu den Aufgaben der Coaches gehört auch, den Fluss an Benutzerdaten aufrechtzuerhalten.
„Fast eine Milliarde Mahlzeiten und Übungen sowie 10 Milliarden Schritte wurden auf unserer Plattform getrackt“, sagte Vashisht von HealthifyMe in einem Telefoninterview Anfang 2019. „Fast 50 Millionen Nachrichten wurden zwischen unseren 500 Trainern und unseren Hunderttausenden zahlenden Kunden ausgetauscht.“
Der globale Markt für Gesundheitsdaten hatte 2016 ein Volumen von 11,5 Milliarden Dollar und wird laut der New Yorker Datenfirma Statista bis 2025 voraussichtlich auf 68,8 Milliarden Dollar anwachsen. Obwohl GOQii und HealthifyMe noch keine signifikanten Einnahmen aus ihrem Geschäft mit Daten erzielen, räumen beide ein, dass sie nicht nur auf Coaching-Abonnements setzen werden, um rentabel zu werden. Still und heimlich sammeln sie einen wertvollen Berg an Daten, die bei Arzneimittelfirmen, Banken und natürlich Krankenkassen begehrt sind.
Kooperationen mit Versicherungen
Im Jahr 2017 passte GOQii sein Memorandum of Association an, ein juristisches Dokument, das als Satzung des Unternehmens dient. Das Spektrum der kommerziellen Aktivitäten wurde auf „alle Arten von Lebens-, Kranken- und allgemeinen Versicherungen“ ausgeweitet. 2019 ging GOQii dann eine Partnerschaft mit der Max Bupa Health Insurance und dem Rückversicherer Swiss Re ein, um Erkenntnisse aus Benutzerdaten zu gewinnen, die helfen sollten, die Risikoprofile der indischen Verbraucher besser zu verstehen. Dies „würde die Kosten für Schadensfälle reduzieren“ und „den Versicherern ermöglichen, den Verbrauchern bessere Preise für ihre Produkte anzubieten“, hieß es damals in einer Pressemitteilung.
Im Rahmen des Max Bupa GoActive-Programms erhalten Verbraucher ein GOQii- Abonnement. GOQii bestimmt für sie dann „Gesundheitsscores“, die an Max Bupa weitergeleitet werden, um Rabatte für die Kunden mit gesunden Gewohnheiten zu berechnen. Im Kleingedruckten zu dem Modell steht, dass GOQii persönliche Benutzerdaten an Max Bupa weitergeben darf, die dort „vertraulich“ behandelt werden. Max Bupa reagierte trotz E-Mails, Nachrichten und einem Telefongespräch nicht auf eine Bitte um Stellungnahme. „Im Falle von MaxBupa wird der Gesundheitsscore nur nach Zustimmung des Benutzers mit MaxBupa geteilt, um dem Versicherungsnehmer finanzielle Vorteile zu bieten“, teilte GOQii-Chef Gondal mit.
Abgesehen von persönlichen Benutzerdaten handeln Tech-Unternehmen auch mit anonymisierten, aggregierten Daten, das heißt mit bereinigten Datensätze, bei denen identifizierende Informationen wie Name, Alter und sogar die IP-Adresse entfernt und gruppiert werden. Bei einer echten Anonymisierung ist es nicht möglich, die Person erneut zu identifizieren. Im Fall von Swiss Re und Abbott gibt GOQii „anonymisierte Daten“ eines „begrenzten Nutzerkreises“ weiter, sagte Gondal. Daten seien außerdem grundsätzlich anonymisiert, wenn sie mit einer dritten Partei geteilt würden. Die Frage danach, welches Anonymisierungsverfahren seine Firma verwendet, beantwortete er nicht. Wie bereits erwähnt, teilt GOQii auch Daten mit dem Pharmaunternehmen Abbott.
Das ist ein kompletter Alptraum.
„Das Argument ist oft, ‚na ja, [die Daten, die weitergegeben werden, sind] anonym‘, aber wir wissen, dass es sehr einfach ist, eine Einzelperson zu identifizieren, wenn man es wirklich will“, sagt Frederike Kaltheuner, die für das Thema Corporate Data Exploitation bei Privacy International mit Sitz in London zuständig war. „Und hier haben wir eine Gesundheits-App in einem aufstrebenden Markt, die Daten mit Versicherungsgesellschaften austauscht, das ist ein kompletter Alptraum.“
Sobald ein Unternehmen über einen ausreichend großen Datensatz verfügt, kann es anfangen, zu kommerziellen Zwecken Profile seiner User zu bilden und sie einzustufen. Das ist die Grundlage der Datenökonomie. Firmen können scheinbar harmlose Informationen wie den Wohnort einer Person verwenden, um ihren sozioökonomischen, ethnischen oder sogar religiösen Hintergrund zu bewerten. All das könnte wiederum mit Hilfe Künstlicher Intelligenz, die Muster in Daten erkennen kann, die Menschen nicht erkennen, mit Gesundheitsscores verknüpft werden, sagt Charlotte Tschider, Juraprofessorin an der DePaul University in Chicago.
„Das ist das Risiko bei Künstlicher Intelligenz“, sagt sie. „Es ist nicht so einfach wie mit der Art von Daten, die wir in der Vergangenheit gesammelt haben. Inzwischen gibt es so viele andere Datenelemente und -typen, die erfasst werden können und Hinweise auf sensible Informationen liefern.“
KI erkennt Korrelationen, die Menschen nicht sehen
Bei HealthifyMe bemerkte die KI Jarvis zum Beispiel, dass Benutzer eines bestimmten Alters, die in einem bestimmten Gebiet leben, tendenziell ein Risiko für Herzerkrankungen haben. Basierend auf dieser Erkenntnis richtete das Marketing-Team am Weltherztag Anzeigen an relevante Facebook-Nutzer, sagen ehemalige Mitarbeiter des Unternehmens. Die Firmenleitung bestreitet das.
„Wir haben auf Facebook und Google ein Lookalike-Targeting durchgeführt, das auf Personen basiert, die unserer App sehr aktiv genutzt haben. Auf diese Weise zeigen wir die Anzeigen den Usern, die unsere App wahrscheinlich nützlich finden“, so Sachin Shenoy, einer der Gründer von HealthifyMe. „Wir haben ein Geo-Targeting von Nutzern auf Länderebene und auf der Ebene der Top-Städte durchgeführt, aber nichts darunter.“ Lookalike Targeting beinhaltet nicht die Weitergabe von nutzerspezifischen Daten, die von HealthifyMe gesammelt wurden, sagte er und ergänzte, dass das Unternehmen keine Nutzerdaten wie Alter, Body-Mass-Index, Größe oder Gewicht an irgendeine Social-Media-Plattform weitergegeben habe.
Bei GOQii beobachtet die KI die Reaktion jedes Benutzers auf Nudges, oder Anstupser, die entweder von der App oder vom Menschen geliefert werden. Sie ermittelt dann die richtige Art von Ansprache, um den Benutzer zum gewünschten Verhalten zu bewegen, sagte CEO Gondal in einem Telefoninterview. Player, die sich daran halten, was durch ihre Daten belegt wird, erhalten dann Rabatte im E-Store und werden im sozialen Netzwerk von GOQii gefeiert.
Bei einem Firmenevent 2018 sah Gondal kein Problem darin, dass „gesunde“ User einen Sonderstatus im GOQii-Versum genießen. „Gesunde Menschen, die sich gesundheitsfördernd verhalten, haben Anspruch auf den Rabatt“, sagte er damals. „Und wer nicht so gesund ist, der muss leider den vollen Preis bezahlen oder sich einen anderen Ort suchen.“
HuffPost India bat Frederike Kaltheuner von Privacy International, die GOQii- und HealthifyMe-Apps zu analysieren. Beide Apps, so fand sie heraus, fordern Datenzugriffsberechtigungen an, die Android, Googles weitverbreitetes Telefonbetriebssystem, sowohl als „normal“ als auch als „gefährlich“ einstuft. Dazu gehört etwa der Zugriff auf die Kamera eines Benutzers, das Lesen von Anrufprotokollen, das Senden von Nachrichten und das Anzeigen und Lesen von Kalenderereignissen und -details. Darüber hinaus verlangt die GOQii-App auch eine sensible Art des Systemzugriffs, die Google als „Sondergenehmigungsanfrage“ ansieht.
Facebook weiß sehr genau, wie Menschen ihr Smartphone nutzen
Wie bereits erwähnt, übertrugen beide Unternehmen personenbezogene Daten (eine eindeutige ID für Werbezwecke sowie Geräteinformationen) automatisch an Dritte, darunter Facebook sowie die Mobile-Analytics-Unternehmen Branch und AppsFlyer, wenn ein Nutzer die App zum ersten Mal öffnet. „Mindestens 40 Prozent aller Apps teilen einige Daten mit Facebook, was bedeutet, dass Facebook eine ziemlich gute Vorstellung davon hat, wie beliebt bestimmte Anwendungen sind, wie häufig sie verwendet werden und wann sie verwendet werden“, sagt Kaltheuner. Dies gibt Facebook einen detaillierten Einblick in die Art und Weise, wie eine Person ihr Telefon benutzt.
Selbst wenn ein Benutzer kein Facebook-Konto hat, erhält das Netzwerk dennoch die Informationen, die es nach eigenen Angaben nur vorübergehend behält. Ein Facebook-Sprecher sagte, dass App-Entwickler „ihren Nutzern gegenüber klar mitteilen müssen“, was die Informationen betrifft, die sie mit Facebook teilen, und dass sie eine rechtliche Grundlage für die Offenlegung und Nutzung von Daten haben müssen. Facebook versuche, Unternehmen über ihre Verpflichtungen aufzuklären, sagte der Sprecher.
„Darüber hinaus verfügen wir über Systeme, um bestimmte Arten von Daten wie Sozialversicherungsnummern, Passwörter und andere persönliche Daten wie E-Mail oder Telefonnummer zu erkennen und zu löschen.“
Die Benutzer können nichts tun, um den Datenfluss einzudämmen, und die meisten sind sich dessen nicht bewusst. Tatsächlich besagt das Kleingedruckte in der Datenschutzrichtlinie von GOQii, dass selbst wenn das System des Benutzers eine „Do Not Track“-Anfrage sendet, GOQii weiterhin Daten verfolgt und sammelt.
Nachdem ein Benutzer die Datenschutzrichtlinie von HealthifyMe bestätigt hat, sendet die App sein Alter, seine E-Mail-Adresse, sein Geschlecht, seine eindeutige ID, seinen Lifestyle, seine Mahlzeitenpräferenzen, seinen Gesundheitszustand, seinen Body-Mass-Index, seinen Standort, sein Gewicht, seine Suchen nach Lebensmitteln und die Protokolle über seine Mahlzeiten an ein Drittanbieter-Analytikunternehmen namens WizRocket, die Muttergesellschaft von Clever Tap mit Sitz in San Francisco und Mumbai. Die Informationen werden nicht anonymisiert.
WizRocket hilft HealthifyMe dabei, seine Kunden besser zu verstehen, die Verkäufe gezielter zu steuern und die Anwendung an bestehende Benutzer anzupassen. Die Datenschutzrichtlinie von WizRocket besagt, dass WizRocket keine Benutzerdaten „überprüft, teilt, verteilt oder referenziert“. Doch bis HuffPost India im August 2019 an WizRocket schrieb, gab es ein Schlupfloch, das besagte, dass anonymisierte, aggregierte Daten an Dritte oder die Öffentlichkeit weitergeben werden dürfen. Almitra Karnik von WizRocket räumte die Lücke in ihrem Briefwechsel mit HuffPost India ein. Das Unternehmen habe die Richtlinie entsprechend geändert.
Keine Einsicht des Firmenchefs
Vishal Gondal, der GOQii-CEO, sah allerdings kein Problem darin, dass die Datenerhebungspraktiken seiner Firma verschleiert und unklar waren. Als HuffPost India ihn fragte, warum seine App das anfordert, was Google als „Sondererlaubnis“ kategorisiert, bestritt Gondal, dass es so etwas gäbe.
„Stellen Sie die Situation nicht falsch dar“, schrieb er in einer E-Mail. „Die Wahrheit ist, dass Google zwei Arten von Genehmigungen hat: normale Genehmigungen und gefährliche Genehmigungen.“ Gondal liegt jedoch falsch, wie diese Android-Entwicklerseite deutlich macht. Gondal bestritt auch, dass seine App irgendwelche Daten an Facebook sendet, selbst nachdem er von Frederike Kaltheuner einen entsprechenden Screenshot erhalten hatte.
„Wir können bestätigen, dass wir keine Daten von unserer Seite an Facebook weitergeben“, sagte Gondal gegenüber HuffPost India . „Wenn Sie glauben, dass die Facebook-API dies auf eigene Faust tut, ist es am besten, für weitere Informationen mit Facebook zu sprechen und keine völlig einseitige Story zu machen.“ Auf die Frage, warum GOQii die „Do Not Track“-Anforderungen nicht respektiert, schrieb Gondal: „GOQii ist eine reine Smartphone-Anwendung, daher ist „Do Not Track“- Anforderungen nicht relevant. Es wäre das Beste, wenn Sie eine geeignete Technikfachkraft konsultieren könnten, bevor Sie solche Geschichten schreiben.“
Wieder einmal liegt Gondal falsch. „Do Not Track“-Anfragen sind auch für mobile Webbrowser anwendbar. Jyoti Panday, Sicherheitsforscher des Telecom Centers of Excellence am Indian Institute of Management, Ahmedabad untersuchte die Datenschutzrichtlinien von GOQii und HealthifyMe für HuffPost India . „Sie sind sprachlich so formuliert, dass das Recht des Unternehmens gewahrt bleibt, weiterhin von [Ihren Daten] zu profitieren, auch wenn Sie [die Anwendung] nicht mehr benutzen“, sagt Panday. Sie beschrieb die Sprache als unklar und vage. In Ermangelung eines robusten Datenschutzrechts, erklärte Panday, holen sich Unternehmen pauschale Genehmigungen im Voraus, so dass sie nicht um neue Genehmigungen bitten müssen, wenn sie neue Wege zur Nutzung der Daten finden. „Die Datenschutzrichtlinien der Unternehmen entsprechen dem Standardgesetz des Landes“, sagt Panday.
Als Huffpost India Gondal um eine Antwort bat, teilte er mit: „Unsere Geschäftsbedingungen und Datenschutzrichtlinien werden von den zuständigen Anwälten und Beratern verfasst, und jedes Schulkind wäre in der Lage, sie zu verstehen.“ GOQii’s umfassendes Datensammeln sei gerechtfertigt, da es sich um eine „Super-App“ handelt, so Gondal. Es sei Fitbit, WhatsApp, MyFitnessPal, Amazon, Netflix, PokemonGo, MiBand, Virgin Pulse, Strava, Noom und Oscar in einem, sagte er. „Die für die Nutzung der Anwendung erforderlichen Berechtigungen entsprechen dem, was für das optimale Funktionieren all unserer Hardware und Dienste erforderlich ist.“
Werde jetzt Mitglied von 1E9!
Als Mitglied unterstützt Du unabhängigen, zukunftsgerichteten Tech-Journalismus, der für und mit einer Community aus Idealisten, Gründerinnen, Nerds, Wissenschaftlerinnen und Kreativen entsteht. Außerdem erhältst Du vollen Zugang zur 1E9-Community, exklusive Newsletter und kannst bei 1E9-Events dabei sein. Schon ab 3 Euro (+ MwSt) im Monat!
Jetzt Mitglied werden!
Die Gründer von HealthifyMe, Tushar Vashist und Sachin Shenoy, waren offener. „Erst nach der Anmeldung sammeln wir persönliche Daten, zu denen E-Mail, Größe, Gewicht usw. gehören“, sagte Vashisht. „Wenn ein Benutzer damit nicht einverstanden ist, hat er die Wahl, nicht weiterzumachen und keine Informationen mit uns zu teilen.“ Shenoy ergänzte, dass das Unternehmen derzeit keine Partnerschaften mit Dritten eingegangen sei, aber „sich das Recht vorbehält, aggregierte, anonyme, entpersonalisierte Daten auszutauschen, um effizientere Systeme für private und staatliche Unternehmen aufzubauen“. Letztlich, so Vashist, sammelten alle Apps – auch Medienunternehmen – in unterschiedlichem Maße Nutzerdaten.
Coaching wie am Fließband
Als ihr Tag zu Ende geht, langweilt sich die Auftragnehmerin. Sie hat ihre Messaging-Quote durch Copy und Paste erfüllt. Die KI hat sich um den Rest gekümmert. Dann kommt ihr Mann von der Arbeit zurück, ihr Hund verlangt Aufmerksamkeit und der Abend geht in die Nacht über. Draußen, jenseits ihres kokonartigen Schlafzimmers, protokollieren ihre Player währenddessen eifrig ihre Übungen, schlucken ihre Pillen, fotografieren ihre Mahlzeiten und laden ihre Datensätze auf die GOQii-Server hoch. Vor dem Schlafengehen checkt sie noch einmal, ob sie Messages bekommen hat.
Und morgen, sobald sie aufwacht, loggt sie sich in ihr Dashboard ein und schickt ihren Playern neue Nachrichten. „Gute Fortschritte gestern“, wird sie sagen. Oder: „Ein großer Schritt nach vorne.“ Oder auch „Haben Sie Junkfood gegessen?“
Von Gayathri Vaidyanathan via The Story Market; zuerst erschienen bei HuffPost India.
Titelbild: Getty Images
