{"id":51882,"date":"2023-05-04T20:39:13","date_gmt":"2023-05-04T18:39:13","guid":{"rendered":"https:\/\/www.burks.de\/burksblog\/?p=51882"},"modified":"2023-05-04T20:39:15","modified_gmt":"2023-05-04T18:39:15","slug":"bullshit-ist-ein-feature-kein-bug","status":"publish","type":"post","link":"https:\/\/www.burks.de\/burksblog\/2023\/05\/04\/bullshit-ist-ein-feature-kein-bug","title":{"rendered":"Bullshit ist ein Feature, kein Bug"},"content":{"rendered":"

\"robot\"<\/p>\n

„Ein Beispiel daf\u00fcr w\u00e4re etwas, was in der Biologie fast immer hilfreich ist: mehr Energie zu erhalten. „Das erste, was passieren k\u00f6nnte, ist also, dass ein solches System sagt: ‚Wir brauchen mehr Energie. Lasst uns den ganzen Strom zu meinen Prozessoren umleiten.‘ Ein weiteres gro\u00dfes Unterziel w\u00e4re dann, mehr Kopien von sich selbst zu machen. H\u00f6rt sich das f\u00fcr Sie gut an?“<\/i> (aus William Hertling: Singularity<\/a> – via Heise-Forum<\/a>)<\/p>\n

\"robot\"<\/p>\n

Ich darf das roboteraffine Publikum auf einen Heise-Artikel<\/a> \u00fcber Geoffrey Hinton<\/a> aufmerksam machen (leider Paywall). „Warnt vor Gefahren“ ist nat\u00fcrlich langweilig, das hat schon Stanislaw Lem getan, vor allem in Ananke<\/a>, vor mehr als einem halben Jahrhundert. Die „Gefahr“ ist eher, so Lem, dass die Gesch\u00f6pfe der Robotik uns \u00e4hnlicher sind bzw. sein werden als zu w\u00fcnschen w\u00e4re. (Was sagt KI zum Ukraine-Krieg?)<\/p>\n

\"geoffrey
\nGeoffrey Hinton, credits: playgroundai.com<\/a><\/sup><\/p>\n

Hintons Sicht der Dinge wurde ma\u00dfgeblich von der neuen Generation gro\u00dfer Sprachmodelle ver\u00e4ndert, insbesondere GPT-4 von OpenAI, das im M\u00e4rz heraus kam. Es habe ihm klar gemacht, dass Maschinen auf dem Weg sind, viel schlauer zu werden, als er dachte, sagt er. Es beunruhigt ihn, wie sich das entwickeln k\u00f6nnte. „Diese Dinger sind v\u00f6llig anders als wir“, sagt er.“<\/i><\/p>\n

Das wage ich aus philosophischer Sicht zu bezweifeln. Der Mensch h\u00e4tte, wenn KI – in welcher Form auch immer – so anders w\u00e4re als er selbst, unbewusst etwas geschaffen, dass er dann auch nicht verstehen k\u00f6nnte. (Dar\u00fcber muss ich noch nachdenken. Was sagt Hegel<\/a>?)<\/p>\n

Das Ziel sind selbst lernende neuronale Netze<\/a>. Die sind aber nicht anders als das menschliche Gehirn, nur ausgelagert, wie jedes andere Werkzeug auch<\/a>.<\/p>\n

\"robot\"<\/p>\n

„Unsere Gehirne haben 100 Billionen Verbindungen“, sagt Hinton. „Gro\u00dfe Sprachmodelle haben bis zu einer halben Billion, h\u00f6chstens eine Billion.“ Doch GPT-4 wisse Hunderte Male mehr als jeder Mensch.“<\/i><\/p>\n

„Wissen“ ist aber nur ein technisches Problem. H\u00e4tte ein Mensch in einer Nanosekunde alles im Internet vorhandene Wissen zur Hand, w\u00e4re er genau so schlau. Das Problem ist doch eher, wie man damit umgeht und wie man es einordnet.<\/p>\n

Hal, stelle mir alle verf\u00fcgbaren Quellen zusammen, die den \u00dcbergang von der Sklavenhaltergesellschaft zum Feudalismus \u00f6konomisch erkl\u00e4ren, insbesondere die Spezifik<\/a>, warum ein Zusammenhang bestehen k\u00f6nnte zur Herausbildung des spezifische Kapitalismus in Nordwesteuropa. Oder: Hal, gibt es Klassenkampf im \u4e2d\u56fd\u7279\u8272\u793e\u4f1a\u4e3b\u4e49)<\/a>?<\/p>\n

\"robot\"<\/p>\n

Bullshitting sei ein Feature, kein Bug. „Menschen konfabulieren immer“, sagt er. Halbwahrheiten und falsch erinnerte Details seien Kennzeichen der menschlichen Konversation: „Konfabulation ist ein Merkmal des menschlichen Ged\u00e4chtnisses.“ Diese Modelle machten damit, sagt Hinton, etwas genauso wie Menschen. Der Unterschied bestehe darin, dass Menschen normalerweise mehr oder weniger korrekt konfabulieren. Das Erfinden sei nicht das Problem. Computer brauchen einfach ein bisschen mehr \u00dcbung.<\/i><\/p>\n

\"robot\"<\/p>\n

Meine zwei Cents dazu: KI wird den Kapitalismus revolutionieren wie schon das Internet, ihn aber nicht abschaffen. Roboter sind Teil der Produktivkr\u00e4fte, nicht mehr. Aber vielleicht gibt es ja doch eine \u00dcberraschung, wenn der erste Roboter anf\u00e4ngt, Karl Marx zu lesen…<\/p>\n

\"image_pdf\"<\/a>\"image_print\"<\/a><\/div>
<\/div>