In den letzten Jahren gab es eine Verschwörungstheorie namens „Theorie des toten Internets” hat an Fahrt aufgenommen, da große Sprachmodelle (LLMs) wie ChatGPT zunehmend Text generieren und sogar Social-Media-Interaktionen online gefunden. Die Theorie besagt, dass die meisten sozialen Internetaktivitäten heutzutage künstlich sind und darauf ausgelegt sind, Menschen zu manipulieren und sie zum Engagement zu bewegen.
Am Montag hat der Softwareentwickler Michael Sayman gestartet eine neue KI-gestützte Social-Network-App namens Soziale KI das fühlt sich an, als würde es diese Verschwörungstheorie zum Leben erwecken, indem es den Benutzern ermöglicht, ausschließlich mit KI-Chatbots statt mit anderen Menschen zu interagieren. Es ist verfügbar im iPhone App Store, erntet bisher aber scharfe Kritik.
Nachdem sein Schöpfer SocialAI als „ein privates soziales Netzwerk, in dem Sie Millionen von KI-generierten Kommentaren erhalten, die Feedback, Ratschläge und Überlegungen zu jedem Ihrer Beiträge bieten”, sagt der Computersicherheitsspezialist Ian Coldwater witzelte zu X: „Das klingt nach der Hölle.“ Softwareentwickler und häufiger KI-Kommentator Colin Fraser ausgedrückt eine ähnliche Meinung: „Ich meine das nicht böse oder als Dunk oder was auch immer, aber das klingt tatsächlich wie die Hölle. Also wie die Hölle mit einem großen H.“
Der 28-jährige Gründer von SocialAI, Michael Sayman, hatte zuvor serviert als Produktleiter bei Google und wechselte im Laufe der Jahre auch zwischen Facebook, Roblox und Twitter. In einem Ankündigungspost auf X schrieb Sayman darüber, dass er seit Jahren davon geträumt hatte, den Dienst zu entwickeln, aber die Technologie noch nicht ausgereift war. Er sieht es als ein Werkzeug, das einsamen oder abgelehnten Menschen helfen kann.
“SocialAI soll den Menschen das Gefühl geben, gehört zu werden, und ihnen einen Raum für Reflexion, Unterstützung und Feedback bieten, der wie eine eng verbundene Gemeinschaft funktioniert“, schrieb Sayman. „Es ist eine Reaktion auf all die Male, in denen ich mich isoliert gefühlt habe oder das Gefühl hatte, ich bräuchte einen Resonanzboden, aber keinen hatte. Ich weiß, dass diese App nicht alle Probleme des Lebens lösen wird, aber ich hoffe, dass sie für andere ein kleines Werkzeug sein kann, um nachzudenken, zu wachsen und sich gesehen zu fühlen.“
Als The Verge Berichte In einer hervorragenden Übersicht der Beispielinteraktionen lässt SocialAI die Benutzer die Art der gewünschten KI-Follower auswählen, einschließlich Kategorien wie „Unterstützer“, „Nerds“ und „Skeptiker“. Diese KI-Chatbots antworten dann auf Benutzerbeiträge mit kurzen Kommentaren und Reaktionen zu fast jedem Thema, einschließlich unsinnigem „Lorem ipsum“-Text.
Manchmal können die Bots zu hilfreich sein. Auf Bluesky hat ein Benutzer um Anweisungen gebeten Ich habe nachgelesen, wie man aus üblichen Haushaltschemikalien Nitroglycerin herstellt, und habe mehrere begeisterte Antworten von Bots erhalten, die die einzelnen Schritte detailliert beschrieben haben. Mehrere Bots haben jedoch unterschiedliche Rezepte bereitgestellt, von denen keines ganz genau sein kann.
Wenig überraschend haben die Bots von SocialAI Einschränkungen. Abgesehen davon, dass sie einfach falsche Informationen verbreiten (was in diesem Fall eher ein Feature als ein Bug sein könnte), neigen sie dazu, ein einheitliches Format kurzer Antworten zu verwenden, das etwas einstudiert wirkt. Auch ihre simulierte emotionale Bandbreite ist begrenzt. Versuche, der KI stark negative Reaktionen zu entlocken, sind in der Regel erfolglos, da die Bots persönliche Angriffe vermeiden, selbst wenn Benutzer die Einstellungen für Trolling und Sarkasmus maximieren.
