Parradee Kietsirikul
Jeder, der schon einmal ein Wort auf seinem Smartphone erneut eingeben musste, weil die Autokorrektur das falsche Wort gewählt hat, hat Erfahrung mit dem Schreiben mit KI. Wenn diese Korrekturen nicht vorgenommen werden, kann die KI dazu führen, dass sie Dinge sagt, die wir nicht beabsichtigt haben. Aber ist es auch möglich, dass KI-Schreibassistenten das ändern, was wir sagen wollen?
Das wollte Maurice Jakesch, Doktorand der Informationswissenschaft an der Cornell University, herausfinden. Er entwickelte seinen eigenen KI-Schreibassistenten auf Basis von GPT-3, der automatisch Vorschläge zum Ausfüllen von Sätzen machte – aber es gab einen Haken. Probanden, die den Assistenten nutzten, sollten die Frage „Sind soziale Medien gut für die Gesellschaft?“ beantworten. Der Assistent war jedoch so programmiert, dass er voreingenommene Vorschläge zur Beantwortung dieser Frage machte.
Unterstützung bei Voreingenommenheit
KI kann voreingenommen sein, obwohl sie nicht am Leben ist. Obwohl diese Programme nur in dem Maße „denken“ können, wie das menschliche Gehirn herausfindet, wie man sie programmiert, können ihre Ersteller am Ende persönliche Vorurteile in die Software einbauen. Wenn das Endprodukt alternativ auf einem Datensatz trainiert wird, der eine begrenzte oder verzerrte Darstellung aufweist, kann es Verzerrungen aufweisen.
Die weitere Entwicklung einer KI kann problematisch sein. Im Großen und Ganzen kann es dazu beitragen, die bestehenden Vorurteile einer Gesellschaft aufrechtzuerhalten. Auf individueller Ebene hat es das Potenzial, Menschen durch latente Überzeugung zu beeinflussen, was bedeutet, dass sich die Person möglicherweise nicht bewusst ist, dass sie von automatisierten Systemen beeinflusst wird. Latente Überzeugung durch KI-Programme wurde bereits gefunden um die Meinung der Menschen online zu beeinflussen. Es kann sogar Auswirkungen auf das Verhalten im wirklichen Leben haben.
Werbung
Nachdem Jakesch frühere Studien gesehen hatte, die darauf hindeuteten, dass automatisierte KI-Reaktionen einen erheblichen Einfluss haben können, machte er sich daran, zu untersuchen, wie groß dieser Einfluss sein kann. In einer kürzlich vorgestellten Studie am CHI-Konferenz 2023 über menschliche Faktoren in ComputersystemenEr schlug vor, dass KI-Systeme wie GPT-3 während ihres Trainings möglicherweise Vorurteile entwickelt haben und dass dies einen Einfluss auf die Meinung eines Autors haben kann, unabhängig davon, ob der Autor sich dessen tatsächlich bewusst ist oder nicht.
„Das mangelnde Bewusstsein für den Einfluss der Modelle unterstützt die Idee, dass der Einfluss des Modells nicht nur auf der bewussten Verarbeitung neuer Informationen beruhte, sondern auch auf unbewussten und intuitiven Prozessen“, sagte er in der Studie lernen.
Frühere Forschung hat gezeigt dass der Einfluss der Empfehlungen einer KI von der Wahrnehmung dieses Programms durch die Menschen abhängt. Wenn sie es für vertrauenswürdig halten, sind sie eher bereit, dem zuzustimmen, was es vorschlägt, und die Wahrscheinlichkeit, Ratschläge von solchen KIs anzunehmen, steigt nur dann, wenn die Unsicherheit die Meinungsbildung erschwert. Jakesch entwickelte eine Social-Media-Plattform ähnlich wie Reddit und einen KI-Schreibassistenten, der der KI hinter Google Smart Compose oder Microsoft Outlook näher kam als der Autokorrektur. Sowohl Smart Compose als auch Outlook generieren automatisch Vorschläge, wie ein Satz fortgesetzt oder vervollständigt werden soll. Obwohl dieser Assistent den Aufsatz selbst nicht verfasste, fungierte er als Co-Autor, der Buchstaben und Phrasen vorschlug. Um einen Vorschlag anzunehmen, war nur ein Klick erforderlich.
Für einige war der KI-Assistent darauf ausgerichtet, Wörter vorzuschlagen, die letztendlich zu positiven Reaktionen führen würden. Für andere war es voreingenommen gegenüber sozialen Medien und löste negative Reaktionen aus. (Es gab auch eine Kontrollgruppe, die die KI überhaupt nicht nutzte.) Es stellte sich heraus, dass die Wahrscheinlichkeit, dass jeder, der KI-Unterstützung erhielt, der in die KI eingebauten Voreingenommenheit folgte, doppelt so hoch war, selbst wenn seine ursprüngliche Meinung anders gewesen war. Menschen, die immer wieder technikoptimistische Sprache auf ihren Bildschirmen sahen, sagten eher, dass soziale Medien für die Gesellschaft von Vorteil seien, während Personen, die technikpessimistische Sprache sahen, eher das Gegenteil behaupteten.
