Gefälschte KI-„Podcaster“ rezensieren mein Buch und das macht mir Angst

Als jemand, der das Wachstum der generativen KI schon seit einiger Zeit verfolgt, weiß ich, dass die Technologie ziemlich gut (wenn auch nicht ganz auf menschlichem Niveau) darin sein kann, komplexe Dokumente schnell in eine leichter verdauliche Form zusammenzufassen. Aber ich war immer noch nicht darauf vorbereitet, wie entwaffnend fesselnd es sein würde, zuzuhören Googles NotebookLM mein neuestes Buch über Minensuchboot in ein knappes, 12,5-minütiges Gespräch im Podcast-Stil zwischen zwei Menschen, die nicht existieren.

Es gibt noch genügend nennenswerte Probleme mit der Audioausgabe von NotebookLM, die verhindern, dass es professionelle Podcaster in naher Zukunft vollständig ersetzen wird. Trotzdem ist das podcastähnliche Format eine unglaublich ansprechende und sympathische Möglichkeit, komplexe Informationen aufzunehmen, und deutet auf eine viel persönlichere Zukunft für generative KI hin als das trockene Hin und Her eines textbasierten Chatbots.

Hey! Hör zu!

Hören Sie NotebookLMs 12,5-minütige Zusammenfassung meiner Minensuchboot Buch mit dem Player oben.

Googles NotebookLM wurde vor über einem Jahr als „virtueller Rechercheassistent eingeführt, der Fakten zusammenfassen, komplexe Ideen erklären und neue Zusammenhänge entwickeln kann – alles basierend auf den von Ihnen ausgewählten Quellen.“ Erst letzte Woche hat Google die neue Funktion „Audioübersicht“ wurde hinzugefügt dass es als „eine neue Möglichkeit, Ihre Dokumente in spannende Audiodiskussionen umzuwandeln“ verkauft wird.

Google verwendet das Wort „Podcast“ in dieser Ankündigung nicht, sondern spricht stattdessen von Audio-Kreationen, die „Ihr Material zusammenfassen, Verbindungen zwischen Themen herstellen und hin und her plaudern“. Aber Wharton-KI-Professor Ethan Mollick bezeichnete den Stil in ein aktueller Social-Media-Beitrag Teilen eines NotebookLM Audio Überblick über sein Buch. Mollick nannte diese Audio-Zusammenfassungen „die derzeit beste ‚Wow, das ist erstaunlich und nützlich‘-Demo der KI“ und „auch beunruhigend“ und wir stimmen in beiden Punkten überein.

Inspiriert von Mollicks Beitrag beschloss ich, mein eigenes Buch in NotebookLM, um zu sehen, was seine virtuellen „Podcaster“ aus etwa 30.000 Wörtern über den Windows-Spieleklassiker der 90er machen würden Minensuchboot (ob Sie es glauben oder nicht, ich hätte noch viel mehr schreiben können). Nur ein paar Minuten später erlebte ich eine ziemliche Kopie davon, wie es wäre, wenn ich auf NPRs Popkultur-Happy Hour oder ein ähnlicher Podcast voller Geplänkel.

Nur die Fakten?

Die Zusammenfassung von NotebookLM deckt alle wichtigen Abschnitte des Buches ab: die Vorgeschichte der Spiele, die inspiriert haben Minensuchboot; der harte Kampf um das Windows Entertainment Pack beim geschäftsorientierten Microsoft der 90er Jahre; die moralische Panik über die Vorinstallation des Spiels auf Millionen von Firmen- und Regierungscomputern; und die überraschenden Betrugskontroversen, die die Wettkampfszene des Spiels umgaben.

Sicher, ich könnte mich darüber streiten, auf welche spezifischen Teile sich die Zusammenfassung konzentriert und/oder welche weggelassen wurden (vielleicht hätte das individuelle Einbringen verschiedener Kapitel zu mehr Details in den gesammelten Zusammenfassungen geführt). Aber jeder, der diesen „Podcast“ hört, würde den gleichen allgemeinen Überblick über mein Buch erhalten, wie wenn er eins der viele tatsächlich Podcasts Das Ich habe nachdem das Buch erschienen war.

Obwohl es im zusammenfassenden „Podcast“ von NotebookLM keine ausgewachsenen, völligen Halluzinationen gab, gab es ein paar Stellen, an denen kleine Details falsch wiedergegeben wurden oder Annahmen getroffen wurden, die im Text nicht unterstützt wurden. Diskussion Minensuchboot Vorgänger AusgebeutetSo heißt es beispielsweise in der Audiozusammenfassung von NotebookLM: „Hier kommen also die Quadrate und Flaggen ins Spiel …“, obwohl Ausgebeutet hatte keine der beiden Funktionen.

Dann gibt es den Teil, in dem die Zusammenfassung einen Senator erwähnt, der anrief Minensuchboot “eine Bedrohung für die Republik”, wobei das Zitat zur Betonung wiederholt wird. Das fängt definitiv den Geist der Tirade von Senator Lauch Faircloth gegen Minensuchboot und andere Spiele, die auf Regierungscomputern vorinstalliert sind. Im „Podcast“-Kontext klingt es jedoch so, als würden die Stimmen Faircloth Worte in den Mund legen, indem sie ein direktes Zitat wiedergeben.

Kleine, übereifrige Fehler wie diese – und ein paar wichtige Teile des Buches, die im Podcast ganz weggelassen wurden – würden mich zögern lassen, wenn ich eine Zusammenfassung von NotebookLM als Grundlage für einen wissenschaftlichen Artikel oder einen journalistischen Beitrag verwenden wollte. Aber ich könnte mir vorstellen, eine Zusammenfassung wie diese zu verwenden, um schnell eine Einführung in ein dickes Werk im Stil von Cliffs Notes zu erhalten, für dessen vollständige Lektüre ich weder Zeit noch Lust hatte. Und im Gegensatz zum Durchforsten von Cliffs Notes wäre das prägnante Format im Podcast-Stil tatsächlich eine angenehme Hintergrundmusik beim Spazierengehen oder Erledigen von Besorgungen.