# Pentacast 58 # Titel: "✨KI✨-News (Februar 2023)" Mit Katzenmann, Mole und Xyrill. Im Pentaradio vom Februar war nicht mehr genug Zeit, um die zunehmend unübersichtliche Nachrichtenlage zum Thema ✨KI✨ aufzuarbeiten. Deswegen liefern wir heute ein bisschen Bonus-Content. Aufgezeichnet am 4. März 2023. ## Shownotes > Der meiste Schaden, den der Computer potenziell zur Folge haben könnte, hängt weniger davon ab, was der Computer tatsächlich kann oder nicht kann, als vielmehr von den Eigenschaften, die das Publikum dem Computer zuschreibt. Der Nichtfachmann hat überhaupt keine andere Wahl, als dem Computer die Eigenschaften zuzuordnen, die durch die Presse verstärkte Propaganda der Computergemeinschaft zu ihm dringen. Daher hat der Informatiker die enorme Verantwortung, in seinen Ansprüchen bescheiden zu sein. > > -- [Joseph Weizenbaum](https://de.wikipedia.org/w/index.php?title=Joseph_Weizenbaum&oldid=230542446), deutsch-amerikanischer Informatiker, Erfinder von [ELIZA](https://de.wikipedia.org/w/index.php?title=ELIZA&oldid=229448794), [im März 1972](https://de.wikiquote.org/w/index.php?title=Joseph_Weizenbaum&oldid=519821) * was bisher geschah: [Pentaradio vom August 2022 zu automatischer Kreativität](https://c3d2.de/news/pentaradio24-20220823.html), Fokus auf ethische Fragen (Autorenschaft, Biases) und rechtliche Fragen * weitere News siehe [September 2022](https://c3d2.de/news/pentaradio24-20220927.html) und [Januar 2023](https://c3d2.de/news/pentaradio24-20230124.html) * [Stable Diffusion kann manche gelernte Bilder exakt reproduzieren](https://twitter.com/Eric_Wallace_/status/1620449934863642624) * [Paper](https://arxiv.org/abs/2301.13188); dort auch Untersuchung von Gegenmaßnahmen * genaue Reproduktion hat auch Datenschutz-Implikationen; siehe auch: [ChatGPT is ein Privatsphäre-Albtraum](https://theconversation.com/chatgpt-is-a-data-privacy-nightmare-if-youve-ever-posted-online-you-ought-to-be-concerned-199283) * [Erste Werbung für Google's ChatGPT-Konkurrenten "Bard" enthält Falschantworten](https://twitter.com/IsabelNAngelo/status/1623013720011194368) * tagsdrauf in den Börsennachrichten: [Market Cap von Alphabet um 100 Mrd. \$ gefallen](https://finance.yahoo.com/news/google-shares-plummet-chatbot-bard-202754174.html) * [Zusammenfassung der ersten Woche des Bing-Chatbots](https://simonwillison.net/2023/Feb/15/bing/) * siehe auch: [Tay (2016)](https://en.wikipedia.org/w/index.php?title=Tay_(bot)&oldid=1141969776), [Pentaradio berichtete](https://c3d2.de/news/pentaradio24-20160426.html) * Vermutung: Bing schlägt katastrophal fehl, weil das unterliegende GPT nur durch Prompt Engineering getuned wird und nicht durch menschliches Reinforcement Learning (siehe Ctrl-F "Based on this document...") -> Training von KI-Systemen bleibt arbeitsintensiv und damit einigen wenigen Großkonzernen vorbehalten * ["Nothing, Forever" (KI-generierte unendliche Seinfeld-Episode) von Twitch wegen Hate-Speech gesperrt](https://arstechnica.com/information-technology/2023/02/endless-seinfeld-episode-grinds-to-a-halt-after-ai-comic-violates-twitch-guidelines/) * Money-Quote: "Laut einem Post der Macher auf Discord lag die Ursache der Fehlfunktion in einem Ausfall des OpenAI-Modells 'text-davinci-003', welches sich durch einen höheren Preis, aber auch bessere Manieren auszeichnet. Der Ausfall bewog die Macher dazu, auf das billigere (und weniger komplexe) Modell 'text-curie-001' umzuschalten, um die Show am Laufen zu halten." * [Einschätzungen von Cory Doctorow](https://pluralistic.net/2023/02/16/tweedledumber/) * "Die wirklich erstaunliche Sache ist nicht, dass Microsoft entschieden hat, dass die Zukunft der Suche nicht aus Links zu relevanten Ergebnissen besteht, sondern länglichen blumigen Absätzen, geschrieben von einem Chatbot mit einem Hang zur Lüge. Das Erstaunliche ist, dass Google das genauso sieht." * Für Microsoft ergebe ein KI-Push Sinn, denn sie haben im Suchmarkt nichts zu verlieren. Bei Google sei der unterliegende Grund hingegen eine fundamentale eigene Unkreativität. (Wann ist das letzte Mal, dass Google eine komplett neue Produktidee selber hatte? Und nicht nur eingekauft hat.) * These: der nächste KI-Winter wird eintreten, weil beim Training von GPT N+1 die Texte von GPT N eingehen werden und ein pathologisches lokales Minimum erreicht wird (analog zu Inzest in mittelalterlichen Königshäusern) * immer lesenswert: [Die Bücher von Cory Doctorow](https://craphound.com/), aktuell [Chokepoint Capitalism](https://craphound.com/category/chokepoint/) * [Einschätzungen eines Geschichtsprofessors zu ChatGPT](https://acoup.blog/2023/02/17/collections-on-chatgpt/) * Assoziationen von "denken" oder "Halluzination" implizieren ein Bewusstsein, das nicht da ist, und sind fehl am Platz * These: der nächste KI-Winter wird eintreten, weil wir an die Grenzen dessen kommen, was wir durch reine Wahrscheinlichkeiten abbilden können * nicht unbedingt eine Leseempfehlung, lieber den nächsten Artikel in dieser Liste lesen * [Emily M. Bender: "You are not a parrot"](https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html) * "\[Wir haben gelernt, wie man\] Maschinen \[baut\], die ohne Sinn und Verstand Text erzeugen. Aber wir haben nicht gelernt, uns dahinter keinen Sinn und Verstand vorzustellen." (hierbei "Sinn und Verstand" im Wortsinne, wörtlich "mind" bzw. "mindless") * [Bender](https://de.wikipedia.org/w/index.php?title=Emily_M._Bender&oldid=231409114) ist in den Computational Linguistics eine Randfigur aufgrund ihrer Haltung, dass Sprache "auf Menschen \[basiert], die miteinander sprechen, um ein gemeinsames Verständnis zu erreichen." * Gegenthese (hier vertreten von [Christopher D. Manning](https://en.wikipedia.org/w/index.php?title=Christopher_D._Manning&oldid=1136435951)): "Die Bedeutung eines Wortes ist lediglich eine Beschreibung der Kontexte, in denen es auftritt." * Bender spricht sich gegen "Dehumanisierung im Zeitalter von KI" aus * freie Assoziation: das Internet als Kommunikationsformat ist inhärent dehumanisierend; insb. bei Texten ist es schwer, zwischen menschlichen und künstlichen Absendern zu unterscheiden (insb. auf der unbewussten Ebene) * Rückgriff auf Joseph Weizenbaum: "Es nicht nicht verwunderlich, dass Menschen, die tagein, tagaus mit Maschinen leben, und glauben, zu Sklaven dieser Maschinen verkommen zu sein, schließlich glauben, dass sie selbst Maschinen sind." * Verweis auf die Klassiker: * [Charles Stross: "Dude, you broke the future!" (34C3, 2017)](https://media.ccc.de/v/34c3-9270-dude_you_broke_the_future), insb. der Teil zu Motivationssystemen * Joscha Bachs Vortragsreihe beim Kongress: [30C3](https://media.ccc.de/v/30C3_-_5526_-_en_-_saal_2_-_201312291600_-_how_to_build_a_mind_-_joscha), [31C3](https://media.ccc.de/v/31c3_-_6573_-_en_-_saal_2_-_201412281130_-_from_computation_to_consciousness_-_joscha), [32C3](https://media.ccc.de/v/32c3-7483-computational_meta-psychology), [33C3](https://media.ccc.de/v/33c3-8369-machine_dreams), [35C3](https://media.ccc.de/v/35c3-10030-the_ghost_in_the_machine) * Cory Doctorow auf dem Kongress: [28C3](https://media.ccc.de/v/28c3-4848-en-the_coming_war_on_general_computation), [PW2020](https://media.ccc.de/v/pw20-392-we-used-to-have-cake-now-we-ve-barely-got-icing), [RCE2020](https://media.ccc.de/v/rc3-11337-what_the_cyberoptimists_got_wrong_-_and_what_to_do_about_it), [RCE2020](https://media.ccc.de/v/rc3-11582-cory_doctorow_fireside_chat)