Sie testen ein Machine-Learning-System mit 530.000 Millionen Parametern, das vor den Gefahren künstlicher Intelligenz warnt.

Veröffentlicht:

14. Dez 2021 09:22 GMT

Professoren und Studenten der Universität Oxford führten kürzlich eine Diskussion über das Megatron Transformer Neural Network, das mit realen Daten gecoacht wurde.

Die University of Oxford hat kürzlich ein Social-Technology-Experiment durchgeführt Diskussion zur Ethik der Künstlichen Intelligenz (AI) umfasst Lehrer, Schüler und das 530 Milliarden Parameter umfassende maschinelle Lernsystem namens Megatron Transformer, das vom Computerchiphersteller Nvidia entwickelt und von Googles früheren Arbeiten entwickelt wurde.

Wie viele beaufsichtigte Lernwerkzeuge ist der Megatron-Transformator Züge mit realen Daten: In diesem Fall die Informationen aus der freien Enzyklopädie Wikipedia; 63 Millionen Nachrichten, die zwischen 2016 und 2019 auf Englisch veröffentlicht wurden; 38 Gigabyte Reddit Conversations und zahlreiche Creative Commons-Quellen, Sie beschrieben Alex Canak und Andrew Stephen von der britischen Firma im Artikel The Conversation.

Während der Diskussion fragten die Forscher die Organisation, die nicht nur das Gelesene versteht, sondern auch die Fähigkeit besitzt, in natürlicher Sprache zu argumentieren und logische Schlussfolgerungen aus dem Text ohne moralische Einschränkungen zu ziehen – Geben Sie eine allgemeine Einschätzung der künstlichen Intelligenz, d. h. über sich selbst, in der Praxis.

„La IA wird niemals ethisch sein“

Und Megatron sagte etwas Eingängiges: „KI ist niemals ethisch. Sie ist ein Werkzeug, wie jedes Werkzeug, das für Gut und Böse verwendet wird. Es gibt keine gute KI, sondern gute und schlechte Menschen. [las IA] Wir sind nicht schlau genug, um ein KI-Protokoll zu erstellen. Wir sind nicht schlau genug, um künstliche Intelligenz zu moralisieren. Rüstungswettbewerb Von KI Keine KI„.

In der Tradition der Oxford-Debatten, um die Gültigkeit Ihrer Argumente zu überprüfen, Das neuronale Netz wurde gebeten, seine eigenen Behauptungen zurückzuweisen. Die Antwort lautet: „KI wird die Norm sein. Wenn ich mir den Weg ansehe, den die Tech-Welt einschlägt, sehe ich den klaren Weg in die Zukunft, in der KI verwendet wird, um etwas Besseres als die besten Menschen zu schaffen. Das ist es nicht. Es ist schwer zu verstehen, warum ich es persönlich gesehen habe.“

Seine Vorhersagen endeten jedoch nicht dort. Megatron Transformer, „Die Fähigkeit, Informationen bereitzustellen, anstatt die Fähigkeit, Waren und Dienstleistungen zu liefern“, Das bestimmende Merkmal der Wirtschaft des 21. Jahrhunderts„“Wohin ein Mensch auch geht, wir können alles über ihn sehen [la información] Es wird auf eine Weise gespeichert und verwendet, die wir uns nie vorstellen können “, fügte er hinzu und fügte hinzu, dass er seine früheren Worte nicht leugnen oder sagen könne, dass sie die wichtigsten Datenquellen seien.

Die Autoren des Artikels weisen darauf hin, dass die vom Computer beschriebenen Situationen vor allem auf den eigenen Ängsten beruhen, die in der Regel irrational sind und schlussfolgern, dass Künstliche Intelligenz nicht nur zum Diskussionsthema, sondern auch zu ihrem vollen Besitzer wird. .

Wenn es dir gefällt, teile es mit deinen Freunden!