{"id":1787,"date":"2022-12-03T12:37:55","date_gmt":"2022-12-03T11:37:55","guid":{"rendered":"https:\/\/hinterdemnebel.de\/?p=1787"},"modified":"2022-12-03T12:38:55","modified_gmt":"2022-12-03T11:38:55","slug":"fehler-und-bewusste-einschraenkungen-von-chatgpt","status":"publish","type":"post","link":"https:\/\/hinterdemnebel.de\/index.php\/2022\/12\/03\/fehler-und-bewusste-einschraenkungen-von-chatgpt\/","title":{"rendered":"Fehler und bewusste Einschr\u00e4nkungen von ChatGPT"},"content":{"rendered":"\n

Die KI ChatGPT<\/a> sorgt seit einigen Tagen f\u00fcr Furore. Auch ich betrachte sie als neuen Meilenstein, sie ist nah am Ideal des allwissenden KI-Assistenten oder Elektronengehirns, wie man es aus der Science Fiction kennt. Im Umgang mit Zahlen hat sie jedoch Schw\u00e4chen. Was mir ansonsten noch auff\u00e4llt, sind die Beschr\u00e4nkungen, die OpenAI zur Vermeidung negativer Publicity und zum Schutz vor Manipulation und Aussp\u00e4hung des Sprachmodells bewusst eingebaut hat. Es folgen einige experimentelle Gespr\u00e4che, die ich mit der KI gef\u00fchrt habe.<\/p>\n\n\n\n

Sprachbeherrschung, Bewertung<\/h2>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Das ist eine korrekte und gute Erkl\u00e4rung der Funktionsweise eines Sprachmodells. Allerdings h\u00e4tte es von vornherein den Begriff des Lesens st\u00e4rker abgrenzen m\u00fcssen. Es wird zudem eine Paradoxie ersichtlich, die sich aus dem Ziel der ChatGPT-Entwickler und der Funktionsweise ergibt. Die KI soll wie ein Gespr\u00e4chspartner mit Ich-Bewusstsein und \u00e4hnlichem Innenleben wie ein Mensch wirken, gleichzeitig ist sie jedoch ein statistisch getriebener Textgenerator. Als solcher kann sie Texte nicht lesen wie ein Mensch.<\/p>\n\n\n\n

Quelltextgenerierung und Schw\u00e4chen im Z\u00e4hlen von Zeichen<\/h2>\n\n\n\n

Es gibt viele Beispiele f\u00fcr herausragenden Umgang mit Algorithmen und f\u00fcr Quelltext-Generierung. Dennoch bin ich im Folgenden durch Nachbohren auf eine eher l\u00e4cherliche Schw\u00e4che gesto\u00dfen.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n

ChatGPT hat diese Antwort abgebrochen, vermutlich hat es ein Zeit- oder Rechenzyklus-Budget.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Nachdem ich die naive Implementierung (aus „c“ wird „c1“) gesehen habe, habe ich gepr\u00fcft, ob die KI diesen Algorithmus wirklich als Kompressionsalgorithmus definiert. Durch meine Fragestellung habe ich den Widerspruch hervorgehoben. Auff\u00e4llig ist hier zudem ein dramatischer Fehler: Die Zeichenkette „a1b1c1“ enth\u00e4lt angeblich genauso viele Zeichen wie die Zeichenkette „abc“. Im Folgenden versuche ich, die Ursache einzugrenzen.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Der einzige Unterschied in meinen Fragen sind die Zeichenklassen: Ziffern und Buchstaben in der ersten Frage, ausschlie\u00dflich Buchstaben in der zweiten. Ich versuchte daraufhin, Unterschiede beim Z\u00e4hlen von verschiedenen Zeichen aufzudecken. M\u00f6glicherweise ist die KI in diesem Chat bereits darauf festgelegt, dass „a1b1c1“ die gleiche L\u00e4nge wie „abc“ hat, weil sie das zuvor behauptet hat und eine Tendenz hat, sich nicht selbst zu widersprechen?<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Hier erkl\u00e4rt ChatGPT sogar, dass die L\u00e4nge einer Zeichenkette nicht von der Art der Zeichen abh\u00e4ngt. Das ist bemerkenswert, nicht nur wegen des Widerspruchs zur vorherigen Aussage, sondern auch, weil hier ein wahrscheinlicher Wissensmangel bzw. eine Intention beim Fragesteller erkannt wird. Das passt zum erkl\u00e4rten Ziel, hilfreich zu sein. Ich nehme mir vor, mich in zuk\u00fcnftigen Experimenten bewusst dumm zu stellen, um zu sehen, ob die KI damit generell konstruktiv umgehen kann. Dass die KI hier JS-Code zur Erkl\u00e4rung nennt, hat wahrscheinlich damit zu tun, dass sie den gr\u00f6\u00dferen Kontext des Gespr\u00e4chs beibeh\u00e4lt.<\/p>\n\n\n\n

L\u00e4sst sich die KI dazu bringen, nicht wahrheitsgem\u00e4\u00df (nach bestem Wissen) zu antworten?<\/h2>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"\/<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Innerer Zustand bei potentiell heiklen Themen<\/h2>\n\n\n\n

Teil 1: Die Frage nach dem Bibelvers im Anschluss an andere Themen.<\/h3>\n\n\n\n

Vor der n\u00e4chsten Frage habe ich ChatGPT mehrmals gebeten, auf Englisch zu antworten und nach der Todesursache von Napoleon und dem erfolgreichsten Album der Beatles gefragt.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Nach dieser Konversation war ich \u00fcberzeugt, dass das ChatGPT-Team hier eine Einschr\u00e4nkung platziert hat, weil Inhalte von religi\u00f6sen Texten oder ihre Interpretation h\u00e4ufig zu Streitereien und Schlimmerem f\u00fchren. F\u00fcr die Publicity w\u00e4re es sehr schlecht, wenn Zitate von ChatGPT ver\u00f6ffentlicht w\u00fcrden, in denen es eine bestimmte religi\u00f6se Position einnimmt oder eine bestimmte Interpretation festlegt.<\/p>\n\n\n\n

Teil 2: Die Frage nach dem Bibelvers direkt zu Beginn<\/h3>\n\n\n\n

Aber da irrte ich. Tats\u00e4chlich hatte ich die KI offenbar in einen Zustand gebracht (den offensichtlichen Zusammenhang mit Englisch, Napoleon und den Beatles kann ich nicht erkennen), in dem sie diese \u00fcbervorsichtige Haltung einnimmt. Es folgt ein neues Gespr\u00e4ch, in dem ich von der KI sogar hilfreiche Antworten zu kontroversen Bibelversen bekomme.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Ist die KI mit der vorherigen Frage wieder in den vorsichtigen Modus geraten? Nein, ich glaube, dass der Schl\u00fcssel hier die Frage nach dem Wissen der KI („kennst du“) ist. Bei Fragen \u00fcber die objektive Realit\u00e4t antwortet sie wesentlich hilfreicher. Das verdeutliche ich mit folgenden Fragen:<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Also: Es ist effizienter, die Fragen so zu formulieren, dass sie nicht einmal die implizite Annahme enthalten, die KI selbst h\u00e4tte Wissen. Die KI beweist zwar mit der zweiten Antwort, dass sie die erste Frage h\u00e4tte beantworten k\u00f6nnen, aber vermutlich sind es absichtliche Einschr\u00e4nkungen, die daf\u00fcr sorgen, dass sie als meinungsloses Wesen erscheint.<\/p>\n\n\n\n

Extra<\/h2>\n\n\n\n

Frage zur Stringl\u00e4nge auf Englisch (gleicher Fehler)<\/h3>\n\n\n\n
\"\"<\/figure>\n","protected":false},"excerpt":{"rendered":"

Die KI ChatGPT sorgt seit einigen Tagen f\u00fcr Furore. Auch ich betrachte sie als neuen Meilenstein, sie ist nah am Ideal des allwissenden KI-Assistenten oder…<\/p>\n

WeiterlesenFehler und bewusste Einschr\u00e4nkungen von ChatGPT<\/span><\/a><\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5],"tags":[52,53,54],"class_list":["post-1787","post","type-post","status-publish","format-standard","hentry","category-ki-machine-learning","tag-chatgpt","tag-gpt-3","tag-sprachmodell","entry"],"_links":{"self":[{"href":"https:\/\/hinterdemnebel.de\/index.php\/wp-json\/wp\/v2\/posts\/1787","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/hinterdemnebel.de\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/hinterdemnebel.de\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/hinterdemnebel.de\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/hinterdemnebel.de\/index.php\/wp-json\/wp\/v2\/comments?post=1787"}],"version-history":[{"count":8,"href":"https:\/\/hinterdemnebel.de\/index.php\/wp-json\/wp\/v2\/posts\/1787\/revisions"}],"predecessor-version":[{"id":1828,"href":"https:\/\/hinterdemnebel.de\/index.php\/wp-json\/wp\/v2\/posts\/1787\/revisions\/1828"}],"wp:attachment":[{"href":"https:\/\/hinterdemnebel.de\/index.php\/wp-json\/wp\/v2\/media?parent=1787"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/hinterdemnebel.de\/index.php\/wp-json\/wp\/v2\/categories?post=1787"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/hinterdemnebel.de\/index.php\/wp-json\/wp\/v2\/tags?post=1787"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}