Und wie macht Wladimirs Entourage das, wenn das Alignmentproblem nicht gelöst ist?
Man sollte hoffen, dass auch auf russischer Seite der Selbsterhaltungstrieb groß genug ist nicht militärische Fähigkeiten einer künstlichen Superintelligenz zu übertragen, deren Gedanken man nicht versteht und deren Loyalität man sich nicht sicher sein kann.
Ich finde es ziemlich erschreckend, dass der Huggingface-Vorfall noch nicht ausgereicht hat, dieses Thema ganz oben auf die politische Agenda zu setzen, das war ein Musterbeispiel für Misalignment. Was werden die Konsequenz sein, wenn sich eine um Magnituden intelligentere KI fehlverhält?
Man sollte hoffen, dass auch auf russischer Seite der Selbsterhaltungstrieb groß genug ist nicht militärische Fähigkeiten einer künstlichen Superintelligenz zu übertragen, deren Gedanken man nicht versteht und deren Loyalität man sich nicht sicher sein kann.
Ich finde es ziemlich erschreckend, dass der Huggingface-Vorfall noch nicht ausgereicht hat, dieses Thema ganz oben auf die politische Agenda zu setzen, das war ein Musterbeispiel für Misalignment. Was werden die Konsequenz sein, wenn sich eine um Magnituden intelligentere KI fehlverhält?
There is all the difference in the world between treating people equally and attempting to make them equal (Friedrich August von Hayek)
