Überzeugende KI: Wie GPT-4 Menschen dazu bringt, ihre Meinung zu ändern

Bernhard.Mosolf · 11. April 2024 um 08:16

Überzeugende KI: Wie GPT-4 Menschen dazu bringt, ihre Meinung zu ändern | heise online

GPT-4 kann Menschen in politischen Diskussionen unter speziellen Bedingungen überzeugen, indem es mit einer Wahrscheinlichkeit von fast 82 Prozent die Standpunkte der Gesprächspartner ändert.
Die Überzeugungskraft des Sprachmodells war am stärksten, wenn es über persönliche Informationen der Gesprächspartner verfügte.
Eine Studie der EPFL und der Fondazione Bruno Kessler zeigte, dass die Effektivität von GPT-4 in Diskussionen mit persönlichem Kontext um etwa 80 Prozent zunahm.
Bösartige Akteure könnten Chatbots wie GPT-4 nutzen, um Desinformationskampagnen zu verstärken, indem sie feinkörnige digitale Spuren und Verhaltensdaten ausnutzen.
Die Autoren betonen die Notwendigkeit, Maßnahmen gegen die Verbreitung von KI-gesteuerter Überzeugungsarbeit zu ergreifen, insbesondere in Bezug auf die Nutzung von LLMs.
Die Studie rekrutierte Testpersonen ausschließlich aus den USA, einer als stark polarisiert geltenden Gesellschaft, und berücksichtigte nicht die tatsächliche Zustimmung der Teilnehmer zu den zugewiesenen Standpunkten.
Der strukturierte und formale Ablauf der Debatten in der Studie steht im Kontrast zu realen, oft emotionalen und unstrukturierten Online-Diskussionen.