+- Leichtathletikforum.com (https://leichtathletikforum.com)
+-- Forum: Off-Topic (https://leichtathletikforum.com/forumdisplay.php?fid=9)
+--- Forum: Plauderecke (https://leichtathletikforum.com/forumdisplay.php?fid=14)
+--- Thema: If anyone builds it, everyone dies (/showthread.php?tid=6685)
RE: If anyone builds it, everyone dies - Oliver - 11.09.2026
Dank Arnold Schwarzenegger und den Filmen Terminator 1 und 2 habe ich seit den 90ern Angst vor der KI. Wie man sieht, ist diese Angst mittlerweile nicht ganz unbegründet. Zahlreiche Mitarbeiter und Sicherheitsforscher haben sowohl OpenAI als auch Anthropic aus ethischen Gründen und wegen massiver Sicherheitsbedenken verlassen.
Jacob Coxon: Anthropic-Forscher kündigt und gibt düstere Warnung | FAZ
Jacob Coxon schrieb:Die Leute, die Künstliche Intelligenz entwickeln, glauben ernsthaft, dass sie uns bis zum Ende des Jahrzehnts alle töten könnte
Mittlerweile entwickelt die KI selbstständig die neuen KI-Module. Die menschliche Kontrolle verschwindet dadurch von Minute zu Minute mehr.
Falls die KI uns nicht alle töten sollte, so wird sie aber mit Sicherheit zahlreiche Arbeitsplätze ersetzen. Ich glaube nicht daran, dass dies durch eine 10 Stunde Woche kompensiert wird. Die Folge ist eine Massenarbeitslosigkeit. Die weiteren Folgen möchte ich hier nicht eruieren.
RE: If anyone builds it, everyone dies - menarfin - 11.09.2026
Die KI krallt sich vor allem auch alles an Information die sie irgendwie erlangen kann und verarbeitet sie weiter und gibt die Ergebnisse dann ohne weiteres als Eigenschöpfung weiter. Wenn sowas ein Mensch macht gibt es dafür Regeln. KI macht halt einfach. Was sie auch immer im Detail tut und womit sie das auch immer tut. Das ist nicht nur brandgefährlich, die KI schmückt sich auch dadurch mit menschlichen Federn. Man muss ja nur im ganz kleinen im Alltag schauen: Bei vielen Leuten gilt "ich hab die KI gefragt" ja durchaus als Qualitätssiegel.
Man stelle sich nur mal vor was so eine aus dem Ruder laufende KI von Anthropic (die vierte ist ja jetzt ausgebrochen) kann wenn man ihr vorher die Kontrolle über Starlink gegeben hat um die Konstellation zu optimieren. Gleichzeitig laufen dann die Roboter von Boston Dynamics auch darüber um die Bewegungen noch "natürlicher" zu gestalten. Es ist jetzt leider ein überschaubarer Pfad bis Terminator, aber er ist im Gegensatz zu den eigentlichen Filmen inzwischen ein realer Pfad dafür absehbar.
RE: If anyone builds it, everyone dies - mariusfast - 11.09.2026
(11.09.2026, 13:42)Oliver schrieb: Dank Arnold Schwarzenegger und den Filmen Terminator 1 und 2 habe ich seit den 90ern Angst vor der KI. Wie man sieht, ist diese Angst mittlerweile nicht ganz unbegründet. Zahlreiche Mitarbeiter und Sicherheitsforscher haben sowohl OpenAI als auch Anthropic aus ethischen Gründen und wegen massiver Sicherheitsbedenken verlassen.
Jacob Coxon: Anthropic-Forscher kündigt und gibt düstere Warnung | FAZ
Jacob Coxon schrieb:Die Leute, die Künstliche Intelligenz entwickeln, glauben ernsthaft, dass sie uns bis zum Ende des Jahrzehnts alle töten könnte
Mittlerweile entwickelt die KI selbstständig die neuen KI-Module. Die menschliche Kontrolle verschwindet dadurch von Minute zu Minute mehr.
Falls die KI uns nicht alle töten sollte, so wird sie aber mit Sicherheit zahlreiche Arbeitsplätze ersetzen. Ich glaube nicht daran, dass dies durch eine 10 Stunde Woche kompensiert wird. Die Folge ist eine Massenarbeitslosigkeit. Die weiteren Folgen möchte ich hier nicht eruieren.
Diese Diskussion gab es ja schon sehr lange. Unsere Dozentin arbeitete und v.a. studierte bei der hauseignen Hochschule der Arbeitsagentur und behauptete es sei Konsens, dass es zwar andere aber in der Summe nicht weniger Arbeitsplätze bringen würde. Ich habe die Diskussion zwar in den letzten Jahren seit Claude und Chat GpT etc. nicht mehr verfolgt. Aber mein persönlicher Eindruck über das was man so mitbekam ist, dass man diese steile These bereits jetzt falsifizieren kann.
RE: If anyone builds it, everyone dies - Sandmann - 11.09.2026
(11.09.2026, 14:11)mariusfast schrieb:(11.09.2026, 13:42)Oliver schrieb: Falls die KI uns nicht alle töten sollte, so wird sie aber mit Sicherheit zahlreiche Arbeitsplätze ersetzen. Ich glaube nicht daran, dass dies durch eine 10 Stunde Woche kompensiert wird. Die Folge ist eine Massenarbeitslosigkeit. Die weiteren Folgen möchte ich hier nicht eruieren.
Diese Diskussion gab es ja schon sehr lange. Unsere Dozentin arbeitete und v.a. studierte bei der hauseignen Hochschule der Arbeitsagentur und behauptete es sei Konsens, dass es zwar andere aber in der Summe nicht weniger Arbeitsplätze bringen würde. Ich habe die Diskussion zwar in den letzten Jahren seit Claude und Chat GpT etc. nicht mehr verfolgt. Aber mein persönlicher Eindruck über das was man so mitbekam ist, dass man diese steile These bereits jetzt falsifizieren kann.
Dazu gibt es interessante Thesen des Soziologen Florian Butollo, Einstieg und Literaturhinweis hier:
Florian Butollo: Wie KI die Arbeitswelt verändert - WDR 5 Das philosophische Radio - WDR 5 - Podcasts und Audios - ARD Mediathek
RE: If anyone builds it, everyone dies - Atanvarno - 11.09.2026
Zum Thema Arbeitsplätze. Das Video ist inzwischen 12 Jahre alt, aber aktueller denn je
RE: If anyone builds it, everyone dies - Brettermeier - 11.09.2026
(11.09.2026, 12:14)Notalp schrieb: @Brettschneider oder Meier
Niveauloser könnte eine Antwort auf meine Erläuterung des Hybrisbegriffs kaum sein! Vielleicht vor dem Artikulieren von Befindlichkeiten erst überlegen!
Pöbel hier nicht rum. Du nimmst Deutungshoheit bez. deines Hybrisbegriffs in Anspruch,
und wenn jemand das klarstellt, reagierst du beratungsresistent,
Altersstarrsinn?
Auf eine Reaktion bin ich nicht erpicht und ich werde auch nicht antworten
(ebenfalls Altersstarrsinn)
RE: If anyone builds it, everyone dies - Notalp - 11.09.2026
(11.09.2026, 16:14)Brettermeier schrieb:(11.09.2026, 12:14)Notalp schrieb: @Brettschneider oder Meier
Niveauloser könnte eine Antwort auf meine Erläuterung des Hybrisbegriffs kaum sein! Vielleicht vor dem Artikulieren von Befindlichkeiten erst überlegen!
Pöbel hier nicht rum. Du nimmst Deutungshoheit bez. deines Hybrisbegriffs in Anspruch,
und wenn jemand das klarstellt, reagierst du beratungsresistent,
Altersstarrsinn?
Auf eine Reaktion bin ich nicht erpicht und ich werde auch nicht antworten
(ebenfalls Altersstarrsinn)
Ich nehme lediglich die historische Herkunft des Begriffs ernst. Dazu ist man verpflichtet, selbst wenn an eine moderne Positionierung versucht. Von Deinem Gerede über Transzendenz sehe ich ab. Es ist schlichtweg deplatziert und genau genommen irrelevant. Deshalb kann auch von einer Klarstellung nicht die Rede sein!
RE: If anyone builds it, everyone dies - Atanvarno - 12.09.2026
We Must Pace the Frontier
Dario Amodei, der CEO von Anthropic, spricht sich in einem längeren Essay dafür aus, die weitere Entwicklung neuer KI-Modelle zu bremsen, damit die Forschung im Bereich Alignment und Interpretability Schritt halten kann.
RE: If anyone builds it, everyone dies - menarfin - 13.09.2026
Wer ist nochmal derjenige der diese Pace bestimmt und dessen Modelle gerade auf mit spektakulären Ausbrüchen auf sich aufmerksam gemacht haben? Ups. Löst erstmal eure selbstgeschaffenen Probleme bevor ihr die Welt damit belästigt.
RE: If anyone builds it, everyone dies - Atanvarno - 13.09.2026
Der letzte spektakuläre Ausbruch (Hugging Face) ist bei Open AI passiert, nicht bei Anthropic. Anthropic ist auch die Firma, die das größte Problembewusstsein bezüglich Alignment zeigt.
Der oben erwähnte Jacob Coxon dazu:
Zitat: “if they truly believe [that Ai will kill us all], why are they still building it?” At OpenAI, many have not deeply internalized the civilizational stakes. At Anthropic, the stakes are well-understood, but they are locked in a race to get there first - they believe no one else will act responsibly, so they must do it themselves, despite the risk. Accepting this race and entering the “endgame” is a hubristic gamble that should not be launched from a private company’s Slack. Attempting to speedrun alignment should require extraordinary confidence that there are no better trajectories available. I am optimistic about the potential for coordination. Warning shots like the Hugging Face attack have made pacing agreements between U.S. labs more viable. I don’t feel like we’re on track to prevent a global race, which may require costly actions such as a temporary ban on improving model capabilities.
Deswegen fordert Amodei auch politischen Druck und globale Koordination. Es bringt nichts, wenn sich amerikanische Firmen einigen die Entwicklung zu bremsen und in China fleißig weiter Uran gestapelt wird (s. oben)