Discussion on AI and Global Cooperation

Was ist mit der Grenze, die Unternehmen immer weiter verschieben?

Würdest du das begrenzen? Wir brauchen einen vollständigen Stopp.

Einen völligen Stopp. Einen völligen Stopp.

Okay. Hör zu, letztlich— Und was passiert dann, die unmittelbare Frage ist, was passiert, wenn wir pausieren und China nicht?

Ich, ich glaube einfach nicht, dass das …

Ich nehme das nicht, nicht so ernst wie viele andere. Und zwar aus folgendem Grund.

Ein Großteil der Spitzenforschung täuscht unsere Modelle nur.

Chinas Forschung? Chinas Forschung. Und das wäre ungefähr so, weißt du: Du ziehst einen Skifahrer hinter einem Boot her, und gibst mehr Gas, und denkst: „Der Skifahrer ist immer noch so nah dran.

Wir müssen schneller fahren. Der Skifahrer ist immer noch so nah dran.“ Nun, das liegt daran, dass du den Skifahrer hinter dir herziehst, und ich glaube, das ist zum Teil das, was hier passiert, oder?

Und sie waren sehr, sehr gut darin, unseren … zu verspotten, äh, unsere Technologie.

Ich glaube also, wenn wir langsamer machen, werden wir, glaube ich, feststellen, dass vieles von dem, was China tut, mehr mit der Verbreitung dieser Technologie zu tun hat als mit Spitzenforschung.

Und gleichzeitig brauchen wir, denke ich, einen internationalen Vertrag.

Ich denke, wir müssen mit den Chinesen zusammenarbeiten, denn letztlich— Denn irgendwann kann der Wasserskifahrer immer noch schwimmen und aufholen, oder?

Ich meine, da geht der Vergleich nicht mehr auf.

Entschuldigung, ich führe den Vergleich nur weiter— Ja. Aber— … ich führe den Vergleich weiter … aber irgendwann, ja, werden sie in der Lage sein, auf einen Jetski zu springen und aufzuholen.

Aber worauf ich hier hinauswill, ist, dass wir, glaube ich, alle interessiert sind. für den Erhalt der Menschheit, oder?

Denn, wissen Sie, in China sind sie auch Menschen, und wir sind auch Menschen, und Roboter zu erschaffen, die äh, diesen Punkt der rekursiven Selbstverbesserung erreichen, so ähnlich wie dieser schaurige Moment in Fantasia,

wenn man diese, diese Besen mit den Eimern hat, die sich selbst vervielfältigen.

Keiner von uns will so weit gehen, und keiner von uns will sehen, was passiert, wenn man die Büchse der Pandora öffnet und plötzlich die KI völlig außer Kontrolle geraten ist.

Ich denke also, wir alle haben einen Anreiz, das richtig anzugehen, aber wir müssen verstehen, dass wir herausfinden müssen, wie wir zusammenarbeiten können, ähnlich wie wir es bei anderen potenziell äh, für die Menschheit riskanten … Ja … äh, technologischen Vorhaben getan haben wie der Atomkraft,

um die potenzielle Bedrohung eindämmen zu können. und zusammenarbeiten, um sicherzustellen, dass wir uns darauf konzentrieren mehr, äh, die Menschheit zu schützen als nur darauf, wie die Anreize im Mikromaßstab aussehen könnten.