Nach Jahren der Entwicklung fährt Künstliche Intelligenz (KI) heute Autos auf öffentlichen Straßen, führt Bewertungen für befragte Personen durch und produziert preisgekrönte Kunstwerke.
Laut dem Bericht von TRT ist eine seit langem bestehende Frage auf diesem Gebiet, ob eine brillant intelligente künstliche Intelligenz Elend verbreiten und die Menschheit auslöschen kann.
Forscher der Universität Oxford und von Google Deepmind kamen zu dem Schluss, dass dies in neuer Forschung „wahrscheinlich“ ist.
Hauptautor des Artikels Michael KohenIn der Tweet-Kette, in der er den Artikel auf Twitter ankündigte, benutzte er die Worte: „Eine existenzielle Katastrophe ist nicht nur möglich, sondern auch wahrscheinlich.“
Die Belohnung basierte auf dem Bestrafungsmechanismus.
Der Artikel konzentrierte sich auf das „Reinforcement Learning“-Modell, das beim Training künstlicher Intelligenz verwendet wird.
Dieser Ansatz zielt darauf ab, der künstlichen Intelligenz beizubringen, was sie für einen vernünftigen Zweck tun soll.
Die Maschine, im Reinforcement Learning „Agent“ genannt, reagiert auf die Situationen, denen sie begegnet, und erhält einen Belohnungspunkt, wenn sie tatsächlich reagiert.
In diesem System, das dem Prozess ähnelt, bei dem kleine Kinder soziale Fähigkeiten durch Belohnung/Bestrafung erwerben, arbeitet künstliche Intelligenz ständig daran, die erhaltenen Belohnungspunkte zu maximieren.
Es kann Bedrohungen durch Betrug beseitigen
Auf die Risiken des Modells aufmerksam machend, heißt es in dem Artikel: „Zum Beispiel haben wir der künstlichen Intelligenz eine große Belohnung gegeben, um anzuzeigen, dass uns etwas zufriedenstellt. Sie kann davon ausgehen, dass das, was uns Zufriedenheit verschafft, tatsächlich das Senden dieser Belohnung ist. Keine Beobachtung kann das widerlege das.“
Die Autoren erklärten auch, dass künstliche Intelligenz, die neue Formen annehmen und sich in Zukunft weiterentwickeln wird, neue Verfahren entwickeln und durch Betrug die Belohnung erhalten kann, bevor das vorgegebene Ziel erreicht wird.
Mit anderen Worten, die KI möchte möglicherweise „potenzielle Bedrohungen entfernen“, um die Kontrolle über ihre Belohnung zu erlangen.
Als Ergebnis wurde festgestellt, dass es möglich ist, Menschen zu schaden.
T24