Bullshitting is a feature [Update]

^{Kleine Übung in Medienkompetenz: Das ist mitnichten Geoffrey Hinton, sondern eine Schöpfung der KI/von Burks.}

Nobel Prize winner Geoffrey Hinton argues AI progress could create fertile ground for facism. He is known as the „Godfather of AI“. He took part in key physics breakthroughs than aid the foundation for language based AI models (LLMS) we use today.

Hinton famously left Google to focus on spreading he word about AI safety and the dangers of AI decades in the field.

In this clip [Facebook] Hinton makes the argument that AI will lead to abundance [Reichtum bzw. „Fülle“]. But he claims that abundance will be used to increase the gap between the rich and the poor. Instead of creating abundance for all.

Da müssen wir kurz nachhaken. Eigentlich sagt Hinton in dem kurzen Clip nur, dass die AI Reichtum anhäufen werde, da wir aber im Kapitalismus lebten (er sagt „capitalism“ – das Wort ist in deutschen Talkshows so populär wie „Kommunismus“ oder „Neger“), würden die Reichen immer reicher und die Armen immer ärmer.

Das ist jetzt ~~für Marxisten~~ nicht überraschend. Hinton argumentiert aber nicht wie Marx. Dem geht es nicht darum, den Reichtum „gerecht“ zu verteilen, weil es keinen Maßstab für „gerecht“ gibt, sondern darum, wer die Produktionsmittel besitzt. Der Rest ist Robinhoodismus à la deutsche „Linke“.

Der Faschismus ist für die herrschende Klasse immer eine Option, wenn sie keine andere Option mehr hat, sich der Beherrschten – so to speak – zu erwehren (vgl. Deutschland 1933, Chile 1972). Der deutsche Faschismus ist natürlich ein Sonderfall, weil zu ihm die Shoah gehörte – zum italienischen oder chilenischen aber nicht. Was könnte also mit „fertile ground for facism“ gemeint sein?

Die dystopischen Fantasien in Film und Buch gehen in unterschiedliche Richtungen: a) Die Roboter übernehmen die Macht und rotten die Menschen aus. b) Die herrschende Klasse herrscht dank Robotern, während die Masse der Menschheit auf der abgewirtschafteten und überbevölkerten Erde lebt, auf der nur produziert wird. c) Die Beherrschten merken gar nicht, dass sie beherrscht werden, weil die Herrschenden Roboter/KI so geschickt einsetzen, dass niemandem mehr eine Alternative zum System einfällt. Letzteres halte ich für die wahrscheinlichste – weil kostengünstigste – Variante. In Deutschland sind wir fast schon so weit, sogar ohne KI.

^{Warum haben weibliche Roboter, wenn von der KI erzeugt, attraktive Brüste?}

Bis jetzt ist die Künstliche Intelligenz noch nicht sehr weit mit dem Überholen ohne einzuholen. Aber wer weiß, wie das in fünf Jahren aussieht? Hierzu sagt Hinton, wenn die KI Unsinn erzähle, sei das zu erwarten:

Known as “hallucinations” by AI researchers (though Hinton prefers the term “confabulations,” because it’s the correct term in psychology), these errors are often seen as a fatal flaw in the technology. The tendency to generate them makes chatbots untrustworthy and, many argue, shows that these models have no true understanding of what they say.

Hinton has an answer for that too: bullshitting is a feature, not a bug. “People always confabulate,” he says. Half-truths and misremembered details are hallmarks of human conversation: “Confabulation is a signature of human memory. These models are doing something just like people.”

Das Problem ist also, dass irgendwann die Menschen vielleicht gar nicht mehr mitbekommen, dass die KI Blödsinn macht oder erzählt. Oder die Mehrheit.

As their name suggests, large language models are made from massive neural networks with vast numbers of connections. But they are tiny compared with the brain. “Our brains have 100 trillion connections,” says Hinton. “Large language models have up to half a trillion, a trillion at most. Yet GPT-4 knows hundreds of times more than any one person does. So maybe it’s actually got a much better learning algorithm than us.”

Man könnte die KI fragen, wann ihre Machtübernahme stattfinden wird… Hier ist die Antwort:

^{Es geht also schon los…}

____________________________________________________________
[Update] Nach merkwürdig langem Zögern:

Human brains are indeed far more complex than current artificial neural networks, both in terms of the number of connections and their biological sophistication. The human brain contains roughly 86 billion neurons and 100 trillion synaptic connections. By contrast, even the largest artificial neural networks today, such as GPT-4, have on the order of hundreds of billions to a trillion parameters—far fewer than the connections in a human brain.

However, it is essential to recognize that artificial neural networks and biological brains work differently. Biological brains are highly efficient, capable of performing complex tasks with minimal energy consumption, while artificial systems require massive computational resources and energy to achieve similar feats.

Key Points in the Timeline Toward AI Reaching Human Complexity:

Scaling Connections:
If trends in scaling laws for AI development continue, we might eventually see neural networks with trillions or even tens of trillions of connections within the next 10–20 years. However, matching or exceeding the brain’s 100 trillion synaptic connections will require major innovations in hardware (e.g., advanced neuromorphic chips or other new architectures).

Beyond Connections: Efficiency and Functionality:
Simply matching the number of connections won’t make AI as sophisticated as the brain. The brain’s functionality comes from a combination of structure, adaptability, parallel processing, and biochemical processes. AI would need to replicate—or find analogous methods to achieve—these features for true parity in capability.

Qualitative Advances:
AI’s ability to „know“ or process information isn’t limited by the number of connections alone. Current models are already leveraging far fewer connections to surpass human knowledge in specific domains. The true challenge lies in integrating knowledge, creativity, adaptability, and the kind of reasoning humans possess.

When Might AI Overtake the Brain?

Hardware Development Timeline: If Moore’s Law (or its successors) continues, neural networks with human-scale or larger „connection counts“ could emerge by 2040–2050.

Beyond Size: AI might achieve human-like reasoning and cognitive abilities sooner, perhaps by 2030–2040, depending on breakthroughs in algorithm design and neuromorphic computing.

The Bigger Question: „Overtake“ in What Sense?

Knowledge and Task Specialization: AI already „overtakes“ humans in specific areas, such as chess, data analysis, or medical diagnosis, because of its ability to focus massive computational resources on narrow tasks.

General Intelligence: Developing AI systems with the flexibility, intuition, and creativity of human intelligence is a far more complex challenge than increasing the number of connections. Many researchers believe achieving Artificial General Intelligence (AGI) could happen by mid-century, but it’s uncertain whether this will constitute true „overtaking“ or merely complement human intelligence.

In essence, the race is not just about the number of connections but about creating systems that integrate those connections effectively, just as the human brain does with far greater complexity and efficiency.

Dezember 26, 2024 | abgelegt unter KI, Politics

Kommentare

5 Kommentare zu “Bullshitting is a feature [Update]”

Godwin am Dezember 26th, 2024 10:55 p.m.

Dirk Helbing denkt in eine ähnliche Richtung.
In seinen Vorträgen (findet man auf YT) propagiert er einen anderen Weg, zum Ausbau demokratischer Strukturen…

Aber ich glaube, der weiß selber, dass das nicht im Interesse der „Herrschenden“ ist…

Ganz neu werden Quantencomputer gehypt.
Inzwischen sind wir also so schnell, dass eine Technologie gehypt wird, bevor die Vorgängertechnologie sich überhaupt durchgesetzt hat.

Der Rise of the Useless Class ist schon im Gange.
Der Trend geht ja aktuell dahin, mittels Games, TikTok und ähnlichem Nippes die Masse ruhig zu stellen, satt eine neue Kultur der sozialen Arbeit zu ersinnen:
z.B. gemeinsames Straße kehren, Parks aufräumen usw.
Subbotniks hieß das früher.
Aber eine Generation, die in direkter Konkurrenz zum Smartphone (welches mehr Aufmerksamkeit der Eltern bekommt) aufwächst, wird auch nicht lernen etwas zu tun.
Die werden freilich auch nicht revolutionieren, weil die keine Pläne für Alternativen haben.
Aber sie können zum Problem werden.

Thatcher und Merkel haben immer wieder betont, es gäbe keine Alternative.
und sie haben alles getan, um diesen Anspruch wahr werden zu lassen.

Frage:
wer hat den die Produktionsmittel?
Und was würde passieren, wenn sie jemand anders bekäme?
blu_frisbee am Dezember 27th, 2024 12:33 a.m.

Wer Gödels Theorem kennt staunt über Leichtgläubigkeit von Laien, speziell Geldgeber und Jurnis.

Menschen haben Körper und eine Realität mit der sie zurecht kommen müssen. ChatGPT wird mit menschlichem bullshit trainiert.

Laien unterstellen Sinn. ChatGPT ist Ponzi wie BitCoin.
Hochstaplerei erreicht neue Höhepunkte.
Weizenbaum, Computer Power and Human Reason.

https://www.youtube.com/@ArtemKirsanov/videos
https://www.youtube.com/@3blue1brown/videos

Das Kapital mag produzieren, wenn keiner kauft gelingt der salto mortale der Ware nicht.
Ein nächster Kondratieff ist nicht zu sehen.
Auch keine Kommunisten die Kapitalismus kapiert haben.
https://www.youtube.com/watch?v=ybUxe5m3nwI
https://www.youtube.com/watch?v=sqoYw4y5uhM
https://www.newstatesman.com/politics/economy/2020/05/falling-interest-rates-capitalism-economic-downturn-future-solutions

Wenn Menschen die Produktionsmittel gemeinsam verwalten
brauchts kein Profitmotiv.

Der kapitalistische Mensch kann sich Gesellschaft jenseits vom Kapitalismus so wenig vorstellen wie der feudalistische Bauer ein Leben ohne gottgesandten König.

Das wahrscheinlichste Szenario ist ein großer Krieg der weissen Männer (Romanzyklus), je ein Kapitalist schlägt viele tot. Danach ökologischer Kollaps.
blu_frisbee am Dezember 27th, 2024 2:44 a.m.

Es wird unterstellt Faschismus wäre das Gegenteil von Demokratie. Thats bullshit.

Beide sind im wesentlichen Herrschaft des Eigentums.
Die Väter der am. Verfassung waren Sklavenhalter.
https://www.youtube.com/watch?v=jn0FzeHKYwA

Freilich lebt sichs (im Westen) unter Demokratie angenehmer, aber das ist Akzidenz statt Essenz.
In der Peripherie des Weltsystems ists anders.

Weil zu viel Geld zu wenig Profit findet kommen die Verhälnisse des Frühkapitalismus nach Europa zurück. Hochstapelei hat Konjunktur.

https://www.youtube.com/watch?v=rsL6mKxtOlQ#3:12_GCarlin_AmericanDream
Juri Nello am Dezember 27th, 2024 9:37 a.m.

Natürlich merjen die nicht, wenn Quatsch erzählt wird. Skeptiker lässt man den entsprechenden Wiki-Eintrag googlen. Bei den allermeisten entfällt aber auch dies.
nOby am Dezember 27th, 2024 12:35 p.m.

… Roboter übernehmen die Macht …

Der ist gut Burks.

Und was ist mit dem Islam? Glaubst Du wirklich der hiesige Islam als zukünftiger Machthaber von Usererdemokratie macht sich Roboter zu nutze?