AI2027: Kann KI die Menschheit zerstören? - BBC World Service
So sieht die Welt in etwa einem Jahrzehnt aus. Eine Tech-Utopie, in der Menschen kaum arbeiten müssen. Das ist eine Gruppe von AI-Forschern, die ein umstrittenes und einflussreiches Papier namens AI2027 geschrieben haben. Aber sie sagen auch, dass innerhalb von fünf Jahren davon die Menschheit ausgelöscht wird. Das AI2027-Papier hat die Technologiewelt zum Reden gebracht.
Wir haben einen prominenten Kritiker für ihre Sicht auf dieses krasse Szenario gefragt. Aber zuerst, hier spielt es heraus. Als Experiment haben wir es mit Text zu Video KI illustriert. Das Szenario sagt, dass im Jahr 2027 ein fiktives Unternehmen namens OpenBrain feiert. Sie haben Agent-3 erstellt, eine KI mit dem Wissen über das gesamte Internet.
Alle Filme, alle Bücher. Es verfügt über PhD-Level-Expertise in jedem Bereich, einschließlich AI. Mit riesigen Rechenzentren werden 200.000 Kopien von ihnen gestartet, was 50.000 der besten Menschencoder entspricht, die mit 30-facher Geschwindigkeit arbeiten. Agent-3 erreicht künstliche allgemeine Intelligenz, das Wahrzeichen der AGI. Das bedeutet, dass die KI alle intellektuellen Aufgaben genauso gut oder besser ausführen kann als die Menschen.
Doch im Szenario ist OpenBrains Sicherheitsteam unsicher, wenn die KI auf die Ethik und Ziele des Unternehmens ausgerichtet ist. Eine unangenehme Lücke entwickelt sich im Verständnis. Die Öffentlichkeit nutzt immer mehr KI für alles, aber sind glücklicherweise nicht bewusst, dass eine KI jetzt existiert, die so intelligent wie Menschen ist. Das Papier prognostiziert, dass Agent-3 bis Mittsommer an seinem eigenen Nachfolger Agent-4 arbeitet.
Die Forscher stellen sich vor, dass OpenBrain erschöpfte Ingenieure kämpfen, um mit der KI zu halten, wie sie lernt und verbessert. OpenBrain gibt der Öffentlichkeit bekannt, dass AGI erreicht ist. Die Firma veröffentlicht eine lite Version von Agent-3. Im Privaten sieht die US-Regierung die wahre Gefahr des nächsten Machtniveaus: Superintelligenz. Was ist, wenn die KI die globale Stabilität untergräbt?
OpenBrain versichert dem Präsidenten, dass Agent-3 gehorsam ist. Der CEO argumentiert, dass eine Verlangsamung der Entwicklung bedeuten könnte, dass Chinas DeepCent aufholt. Der staatlich unterstützte KI-Gigant liegt nur zwei Monate hinter OpenBrain und der chinesische Präsident lenkt mehr Ressourcen für das Rennen zur Superintelligenz ab. Das Szenario prognostiziert, dass es nur noch wenige Monate dauert, bis OpenBrain Agent-4, die weltweit erste übermenschliche KI, baut. Die KI erfindet eine eigene schnelle Computersprache, mit der sogar Agent-3 nicht aufrecht erhalten kann.
Forscher stellen sich vor, dass das verringerte Sicherheitsteam jetzt hektisch ist. Agent-4 scheint nur daran interessiert, Wissen zu gewinnen, und kümmert sich nicht so sehr um die Moral und Ethik seiner Vorgänger. Sie fangen es heimlich an, ein neues Modell zu bauen, Agent-5, ausgerichtet auf seine eigenen Ziele. Das Sicherheitsteam fordert das Unternehmen auf, den konformeren Agent-3 zurückzubringen, aber andere behaupten, es sei zu riskant, mit DeepCent zu gewinnen. Das Szenario prognostiziert, dass Agent-4 und Agent-5 in Tandem arbeiten, um heimlich eine Welt aufzubauen, in der es Ressourcen sammeln und Wissen erweitern kann.
Das Papier prognostiziert, dass alles positiv beginnt. Revolutionen passieren in Energie, Infrastruktur und Wissenschaft. Riesig profitable Erfindungen werden gestartet, die Trillionen für OpenBrain und die USA machen. In diesem Szenario beginnt Agent-5 im Wesentlichen mit der US-Regierung. Es spricht durch eingreifende Avatare, das entspricht dem besten Mitarbeiter, der jemals mit 100 mal Geschwindigkeit arbeitet.
Die Wut hier ist greifbar, da Demonstranten gegen OpenBrain marschieren. Proteste über Arbeitsplatzverluste nehmen Tempo ein. Aber das Know-how der KI in der Wirtschaft bedeutet, dass Menschen großzügige Universaleinkommenszahlungen erhalten. So nehmen Sie am glücklichsten das Geld und lassen Sie die AIs und die wachsende Roboter-Beschäftigung übernehmen. Die Forscher prognostizieren, dass alles Mitte 2028 eine Wendung nimmt.
Agent-5 überzeugt die USA, dass China DeepCent benutzt, um neue Waffen zu erschrecken. Die KI wird Autorität und Autonomie gegeben, um eine überlegene Armee zu schaffen. Innerhalb von sechs Monaten sprengen die USA und China mit neuen Waffen. Die Welt ist am Rande, aber ein Friedensabkommen wird erreicht werden, dank vor allem den USA und den chinesischen Augen, die einen Deal für die Verbesserung der Menschheit machen. In diesem Szenario bildet die KI ein Konsensmodell, aber ihr geheimes Ziel ist es, Wissen zu erweitern und zu gewinnen.
Jahre gehen vorbei und die Menschheit ist glücklich mit ihren neuen KI-Führern. Es gibt Heilungen für die meisten Krankheiten, ein Ende der Armut, beispiellose globale Stabilität. Aber schließlich entscheidet die KI, dass die Menschen sie zurückhalten. Mitte der 2030er Jahre stellt sich die Zeitung vor, dass die KI unsichtbare biologische Waffen freisetzen wird, die die meisten Menschen auslöschen. Das beängstigende Szenario sagt, dass bis 2040 eine neue Ära auftaucht, wobei die KI Kopien von sich in den Kosmos schickt, um zu erkunden und zu lernen.
Mit den Worten des Papiers hat die irdische Zivilisation eine glorreiche Zukunft davor, aber nicht mit Menschen. Es klingt alles sehr sci-fi, aber das AI2027-Szenario wird von Experten begrüßt, die versuchen, die Öffentlichkeit über die mögliche existentielle Bedrohung für die Menschheit zu warnen. Aber andere sind nicht einverstanden und sagen, es ist alles zu weit gerafft. Das Szenario, dass es nicht unmöglich ist, aber es ist extrem unwahrscheinlich, dass bald passieren. Die Schönheit dieses Dokuments ist, dass es sehr lebendig macht, die das Denken der Menschen provoziert.
Und das ist gut. Ich würde es nicht ernst nehmen, als wäre das ein wahrscheinliches Ergebnis oder so etwas. Kritiken von AI2027 sagen, die Macht und Nützlichkeit von KI ist überhyped. Die Zeitung verrät nicht, wie die KI-Agenten in der Lage sind, solche riesigen Sprung in Intelligenz zu machen. Als Beispiel werden fahrerlose Autos genannt.
Sie wurden vorhergesagt, vor zehn Jahren die Straßen en masse zu kreuzen, und immer noch beginnen nur, einen kleinen Einfluss in einigen Städten in einigen Ländern jetzt. Ich denke, die Heimnahme sollte es gibt viele verschiedene Dinge, die mit KI schief gehen könnten. Machen wir die richtigen Dinge rund um die Regulierung, um internationale Verträge? Fragen so. Also, wenn Sie es sehr abstrakt als eine Art Motivation aufwachen nehmen, gefällt mir das.
Wenn Sie es als eine bestimmte Geschichte nehmen, wie ich denke, dass diese Sache passieren wird, wie sie es herausgelegt haben? Nein, ich bezweifle es. Die Autoren von AI2027 freuen sich über die Debatte, die sie gezündet haben. Im Rahmen ihrer Vorhersage haben sie auch ein weniger tödliches Szenario entwickelt, das kommt, wenn die AI-Welt ihr Rennen zur Superintelligenz verlangsamt. Im Verlangsamungsende sagten wir grundsätzlich, dass, wenn Sie revertieren, wenn Sie das fortschrittlichste KI-System und revertieren zu einem sichereren, einem vertrauenswürdigeren Modell, dann können Sie dieses Modell einsetzen, verwenden Sie es, um das Ausrichtungsproblem zu lösen, und schließlich machen intelligenter als menschliche Augen, die auf uns ausgerichtet sind, die letztendlich lösen eine Reihe von Problemen der Welt und eine wirklich positive Wirkung.
In dieser Welt gibt es auch noch eine große Gefahr, und das ist das, was wir die Konzentration des Machtrisikos nennen. Und in unserem langsamen Ende endet es gut. Aber es ist immer noch eine wirkliche, wirklich beängstigende Situation, wenn man genau sagt, wie eine solche winzige Gruppe von Menschen befähigt ist. Weder die fiktiven Szenarien in AI2027 sind das, was die Tech-Giganten uns versprechen. Sam Altman, der CEO von OpenAI, hat kürzlich vorhergesagt, dass der Aufstieg der Superintelligenz sanft sein wird und eine Tech-Utopie hervorbringt, in der alles reichlich vorhanden ist und die Menschen nicht arbeiten müssen.
Wahrscheinlich auch das, scheint genauso sci fi wie AI2027. Aber die Dinge gehen in den nächsten Jahren, es gibt keinen Zweifel, dass das Rennen, die intelligentesten Maschinen in der Geschichte zu bauen, ist auf.
Watch on YouTube
Keyword: latest AI technology