Das finde ich absolut richtig. Und dann auch erstaunlich, dass ich von solchen Bemühungen wenig bis gar nichts weiss.
Hatte kürzlich ein Gespräch mit einem Mediziner / Entwickler und Ethiker. Vermutlich eine seltene Mischung. Dabei fand ich interessant, dass man den betroffenen Patienten selten in den Mittelpunkt stellt und mitdiskutieren lässt. Er ist ein abstraktes Etwas im Kontext einer Diskussion.
Ich denke grundsätzlich dreht sich jeder in Diskussionen um den Punkt der im Zentrum der Gruppierung ist in der er sich bewegt. Tech-Unternehmen um Tech, Krieger um strategische Vorteile im Konflikt, Ethiker stehen gerne auf einem hohen Stand und blicken um sich, Anwenderunternehmen sehen die Kosten / Topline.
Wie könnte ein anderer Diskurs und bessere Kommunikation aussehen um hierbei echten Fortschritt zu erzielen?
Zu der Thematik eine kleine Anmerkung aus der Praxis von einem Ingenieur:
Kürzlich kam unser Chef auf mich zu, wir müssten jetzt unbedingt „etwas mit 5G machen“. Begründung: vor 2, 3 Jahren war die Konzernleitung hier und habe sich unzufrieden gezeigt, dass man damals den KI-Trend verschlafen habe… Das dürfe jetzt mit 5G nicht wieder passieren…
Will damit sagen, dass ich es in meiner Laufbahn immer wieder erlebt habe, dass gerade „eine neue Sau durch’s Dorf getrieben“ wurde und man da halt einfach dabei sein muss. Auch wenn das Management nur den ersten Abschnitt des Summary gelesen hat und nur eine grobe Ahnung von der Technologie hat. Auch wenn die Fachleute darin wenig Sinn sehen. Auch wenn der angedachte Use Case nicht wirklich gut damit bearbeitet werden kann. Und so weiter…
Manchmal geht es halt einfach nur darum, bei einem Hype dabei zu sein - ob technisch und wirtschaftlich sinnvoll oder nicht.
Schade. Dabei wird maximal nach außen gezeigt, dass man dabei ist - innovationstheater.
Dabei sollte man sich einfach nur fragen wie man das Produkt besser für den Kunden und die aktuellen Bedürfnisse der Zeit macht. Seltsam. Es wird über diesen Kern einer Unternehmung nicht oft gesprochen aber über alles andere
Ich teile deine Kritik an der jetzigen Situation! Aber noch sehe ich eine Chance, dass wir die Pfadabhängigkeit bzw. Irreversibilität, die du ansprichst, vermeiden könnten. Gerade bei digitalen Plattformen können sich Nutzungsmuster schnell verändern – wenn erst Angebote kommen, die genauso komfortabel wie die von Google, Facebook & Co. etc. sind, aber auf Datenschutz setzen, und dann noch durch schlaues Marketing ein Hype erzeugt wird, könnte eine Plattform wie Facebook schnell vergessen sein. Und auch manche regulatorischen Maßnahmen könnten den Geschäftsmodellen, die oft immer noch vor allem auf personalisierter Werbung basieren, das Wasser abgraben. Oder wenn Apple dafür sorgt, dass Facebook und Google auf iPhones quasi keine Daten mehr sammeln können.
Das ist ein guter Punkt @SamS. Voraussetzung dafür ist allerdings, dass sich die Regulierungsbehörden und Parlamente laufend über den Stand der Entwicklung informieren und austauschen. Weiß nicht, ob das der Fall ist. Hast du da mehr Einblick?
Kann deinen Punkt gut nachvollziehen. Werbefinanzierung, die auf reiner Reichweite basiert, führt oft zu wirklich problematischen Entwicklungen.
Aber ein Teil des Problems ist sicher, dass Teile der Bevölkerung für die Horrorinhalte, die du skizzierst, empfänglich sind. Daran könnten wir wohl nur durch bessere Bildung und mehr Chancengerechtigkeit etwas ändern. Und dann sehe ich schon auch die Gesetzgeber in der Pflicht, für mehr Transparenz zu sorgen bzw. vorauszusetzen, das so etwas wie Autoplay, personalisierte Empfehlungen etc. kein Default sein sollte, sondern nur per Opt-in.
Wenn wir zum Schluss kommen, dass KI a) kontrollierbar bleibt und b) das Potential hat, gesellschaftlichen Nutzen, zum Beispiel in Form einer besseren Gesundheitsversorgung, zu stiften, dann sollten wir natürlich dafür sorgen, dass davon auch alle profitieren können. Nicht nur die Reichen. Da bin ich ganz bei dir. Und, ja, wir haben ein Mehr-Klassen-Gesundheitssystem, aber zumindest in weiten Teilen Europas eines, wo auch gesetzlich Versicherte von neuesten Entwicklungen profitieren können. Nicht von allen, aber von vielen. Dass gerade der afrikanische Kontinent bei der Verteilung des Impfstoffs völlig übergangen wird, ist allerdings in der Tat kein gutes Omen, wenn wir auf die globale Ebene schauen.
Das finde ich auch @alfred.masal! Wir könnten sicherlich vieles über unsere Entscheidungsmuster erkennen. Derzeit passiert einiges im Bereich „Explainable AI“, was in diese Richtung geht. Bin allerdings sehr gespannt, ob es gelingen wird, die Black Box wirklich wieder zu öffnen.
Ja, und leider wird weltweit auch schon daran gearbeitet, KI zu militärischen Zwecken zu nutzen. Dazu liefert uns @Michael bald noch einen Überblick.
Hehe, schöne steile These. So pauschal würde ich ihr nicht zu stimmen, zumal nicht alle Tech-Unternehmen da draußen nur gesellschaftsschädliche Absichten haben. Aber diesen Punkt finde ich echt spannend:
Ist das ein Plädoyer dafür, lieber die Hände von KI zu lassen? Oder glaubst du, es gäbe einen Weg KI so einzusetzen, dass sie der Gesellschaft nutzt und nicht nur der Industrie?
Absolut. Aber wahrscheinlich stecken vielen Unternehmen wirklich noch die verpassten Hypes so in den Knochen, dass sie jetzt kein Risiko eingehen wollen
Bin selbst absoluter KI-Fan. Nutze z.B. ziemlich begeistert einen Dienst zum Vergrößern und Verbessern von Bildern oder auch einen zum Erstellen von Deepfakes. Bei solchen Services stört auch niemanden, dass die Leistung komplett in der Blackbox entsteht, weil da kein großer Schaden durch die KI entstehen kann. Mein Plädoyer wäre die Hände da wegzulassen, wo KI in ihrer aktuellen Form der Gesellschaft gravierend schaden kann. Z.b. alles was mit Gesichtserkennung und predictive policing zu tun hat, also da, wo eine (richtig rechnende) KI zu gravierend falschen Ergebnissen kommen kann, die Menschenleben zerstören können. Dafür ist KI noch nicht weit genug und entsprechend werden da regelmäßig Moratorien gefordert…Die Frage, wie die KI mehr der Gesellschaft statt vor allem der Industrie nutzen kann, ist echt zentral und tricky. Ich bin immer unsicherer, ob es diese vielbeschworenen AI4Good-Cases überhaupt gibt, wo KI vorrangig zum Nutzen der Menschen entwickelt wird. Aber vielleicht braucht es das auch nicht. Vielleicht kann der gesellschaftliche Nutzen indirekt dadurch entstehen, dass die Industrie-Leute ihren (oft staatlich subventionierten) Gewinn der Gesellschaft zurückgeben. Die müssen einfach brav und mehr Steuern zahlen damit Industrie-Gewinne zu Gesellschaftsgewinnen werden. Gelder unmäßig anzuhäufen wie im Falle der bekannten Tech-CEO’s ist asozial im buchstäblichen Sinne des Wortes. Im Grundgesetz haben wir den Artikel 14 „Eigentum verpflichtet“, der solche Missstände aufheben soll, der aber in der Rechtssprechung noch nie (!) angewendet wurde.
Beabsichtigt war ein Instrument gegen ausbeuterische Fabrikbesitzer zu schaffen (https://de.wikipedia.org/wiki/Sozialpflichtigkeit_des_Eigentums). Unser Grundgesetz ist eigentlich ganz cool, da ist alles drin um die Gesellschaft zusammenzuhalten. Leider wird es eben nicht umgesetzt und §14 (2) ist daher ein gutes Beispiel für den Spruch „Ethik funktiniert ohne Gesetze, aber Gesetze nicht ohne Ethik.“
Lieber Max, danke für deine tolle Erklärung!
besonders der Zusatz, was wie herum funktioniert!!!
Ich habe heute Nacht eine Petition gestartet, wo das „Grundrecht auf Wohnen“ ins GG eingebracht wird. Weil es ist nicht nur für „ausbeuterische Fabrikbesitzer“ eine „Sozial-pflicht des Eigentums“ gibt, sondern auch für Wohnungsbauconzerne geben muß!!!
Es kann nicht sein!, das wir in Deutschland 650.ooo Obdachlose haben und nach wenigen Frosttagen schon 17 Erfrorene gefunden haben. Die Dunkelziffer ist nur schätzbar mit einem Kaffeesatz!
Was die KI betrifft, sind mir heute Nacht folgende Zusammenhänge bewusst geworden:
Alles !!! egal obPflanzen, Tiere oder Menschen hat ein endliches Leben, was zwischen Geburt und Tod stattfindet. Im Augenblick versuchen wir gegen Corona fast jedes Leben möglichst zu verlängern, riskieren dabei aber den Tod von anderen durch einseitige Maßnahmen - (z.B. verschobene Krebstherapie)
Im Einzelfall „menschlich“. Beim Blick auf die Toten im Mittelmeer, also an unserem Urlaubsrevier, sehen wir das „politisch“ anders. Da sind es unbekannte tote ohne einen Bezug.
Wir haben die Todesstrafe abgeschafft, in anderen Ländern ist sie noch üblich.
Wie geht man mit suizidalen Menschen um?
Bei einer KI, sich selbst weiterentwickelnd, könnte man ja vermuten, das diese Maschine irgendwann beginnt, Leben mit Wirtschaftichkeit zu verbinden - eben LERNFÄHIG.
Wie oder wer will und kann dann in welchem Interesse Kontrolle oder gar Korrektur ausüben?
Wenn uns lebende Menschen etwas wert sind, versuchen wir alles OHNE KI zu retten, wenn möglich.
Schon jetzt zeichnen sich u.a. folgende Probleme ab und auf:
Durch unser total vernetztes Rettungsystem werden ca 50% aller Einsätze überflüssigerweise doppelt gefahren. Umweltschutz abgehakt, Einsatzbeschränkung abgehakt, Behinderung arbeitender Menschen Restrisiko. -
wie wird dann später mal eine KI eine Brandmeldung bearbeiten???
unwichtig??? nur zwei Menschen vom Tod bedroht… könnten 500 im Stau stehen???
Anderes gravierendes Problem: Durch eine weitere Verbesserung unserer medizischen Versorgung steigt auch die Lebenserwartung drastisch an! heute ist in fast jedem Altenheim mindestens ein Bewohner über 100 Jahre alt.
Nicht, das ich nicht jedem einzelnen ein langes gesundes Leben gönne!!!
Ich sehe vielmehr die Problematik, das nicht die KI die Ernährung, Heizung und Pflege stellt, sondern Menschen dafür arbeiten müssen! Die, die im Heim arbeiten und diejenigen, die diese Heimleistungen bezahlen müssen. Das hört sich jetzt wenig menschlich an, mehr nach Denkweise einer KI, aber wie würde eine KI solch ein Problem, einmal erkannt, lösen wollen?
Ich bin der Überzeugung, das wir uns besser erst mal Gesellschaftlich neu sortieren und dann an eine Aufgabenzuweisung an eine KI denken sollten!
Sonst könnten Obdachlose, egal warum, zum angeordneten Suizid abgeholt werden???
oder Zwangseingefroren werden???
Markaberweise steht in einer neuen Stadtverordnung der Stadt Krefeld sinngemäß:
„für Obdachlose besteht kein Aufenthaltsrecht in öffentlichen Räumen…“ !!! Gedacht war die Formulierung für den SCHUTZ von Fußgängerzonen, Grünanlagen, öffentlichen Parkhäuser gegen den Anblick mittel- und obdachloser Menschen…
Das sind noch die Ergebnisse „politischer Intelligenz“, die können wir abwählen, wenn wir wollen? wann könnten wir bei einer Maschine noch den Stecker ziehen???
Liebe Julia, Deine Abschlussfrage wurde in dem Film „Odysee im Weltall“ hinreichend veranschaulicht!
Der die Raumstation (ähnlich der ISS) leitende Computer, selbstlernend am Beispiel von Schach im Film gezeigt, befand am Ende des Films den letzten Astronauten für überflüssig und schob ihn ab ins All…
Die Frage an Uns ist also, lassen wir solch ein Gehirn zu???
Oder sind wir ähnlich schwach intelligent, erst für Unsummen Atombomben zu bauen um anschließend Abrüstungsabkommen zu verhandeln???
Wieviel Menschen könnten davon satt werden, was die Bomben gekostet haben???
Lieber Wolfgang, das sind wirklich sehr anschauliche Beispiele dafür, wie wenig voraussichtig die KI-Revolution gerade vorangetrieben wird. Es erinnert sehr an die anfänglichen Bestrebungen der Atom-Industrie, einfach alles mit Radioaktivität zu regeln. Früher gab es Zahnpasta mit Uran, heute gibt es Zahnbürsten mit KI. Vielleicht muss jede Technologie durch diese „orale Phase“ oder zuminstest durch eine Zeit des extensiven Übertreibens, bevor die Leute merken, was davon alles Quatsch ist. Ich hoffe z.B. dass diese faschistoide Tech-Dystopie in Nevada zumindest solche Erkenntnisse begünstigt (die Vermutung liegt Nahe, dass es hier um die von Google geplante aber abgesagte Smart City in Toronto geht, die nun in Nevada errichtet werden könnte).
Lieber Max, danke das du meine Sichtweise so treffend beschreibst: „wenig vorraus-sichtig“ nennst du diese Revolution. Das ist aber eine der Kerneigenschaften von Revolutionen. Ob es jetzt die Französische oder später die Russische war, erstmal sind viele Köpfe gerollt! und wenn ich an eine der 1. Kommentare nach der Findung des 1. Radioaktiven Elementes denke:
„Die erste Nutzung wird militärisch sein!“ von daher ist meine Meinung: "wehred den Anfängen! " damit wir hinterher nicht fragen müssen: „wie bekommen wir den Geist wieder in die Flasche?“
