Hier erfahren Sie, wie die Technologie hinter Chatbots funktioniert und warum Sie dem, was sie sagen, nicht vertrauen sollten

New York.- Microsoft warf Eine neue Version Ihrer Bing-Suchmaschine Im Gegensatz zu aktuellen Suchmaschinen gab es letzte Woche einen Chatbot, der Fragen in klarer, prägnanter Sprache beantworten konnte.

Seitdem haben die Menschen das Gebiet bemerkt Chatbot Bing erstellt Ungenau, irreführend und völlig andersEs verursacht Angst, dass Sie die Welt um sich herum erleben oder sich ihrer bewusst sein könnten.

Aber das ist nicht der Fall. Um zu verstehen warum, ist es wichtig zu wissen, wie Chatbots funktionieren.

Lebt der Chatbot?

NEIN. Lassen Sie uns klar sein: Nein!

Im Juni, ein Google-Ingenieur, Blake LemoineGoogle sagte, es teste eine ähnliche Chatbot-Technologie Ich hatte ein Gewissen. Das ist eine Lüge. Chatbots wissen nichts und sind nicht intelligent… zumindest Menschen nicht.

Warum lebt es?

Gehen wir etwas zurück. Unterstützt von Bing Chatbot Eine Art künstlicher Intelligenz, die als neuronales Netzwerk bezeichnet wird. Es mag wie ein computergesteuertes Gehirn klingen, aber der Begriff ist irreführend.

Ein neuronales Netz Eine mathematische Methode zum Erlernen von Fähigkeiten Durch die Analyse großer Mengen Digitale Daten. Wenn ein neuronales Netzwerk Tausende von Fotos von Katzen untersucht, kann es lernen, die Katze zu erkennen.

Die meisten Menschen nutzen täglich neuronale Netze. Es handelt sich um eine Technologie, die Personen, Haustiere und andere Objekte in Bildern identifiziert, die in Webdiensten wie Google Fotos veröffentlicht werden. Es hilft den Chat-Sprachassistenten von Apple und Amazon, Siri und Alexa, die Wörter zu erkennen, die Sie sagen. Außerdem ist es so Übersetze zwischen Englisch und Spanisch In Diensten wie Google Translate.

Neuronale Netze sind sehr gut Spiegelt die Art und Weise wider, wie Menschen Sprache verwenden Technologie kann uns vorgaukeln, dass sie mächtiger ist, als sie wirklich ist.

Wie ahmen neuronale Netze die menschliche Sprache nach?

Vor etwa fünf Jahren starteten Forscher von Unternehmen wie Google und OpenAI, einem in San Francisco ansässigen Startup, den kürzlich beliebten Chatbot. ChatGPTSie fingen an, neuronale Netze zu bauen Sie lernten aus einer großen Menge digitaler TexteEinschließlich Bücher, Wikipedia-Artikel, Chatprotokolle und alle möglichen Dinge, die im Internet veröffentlicht wurden.

Diese neuronalen Netze werden große Sprachmodelle genannt.. Sie können Daten zusammensetzen, die Sie als mathematische Karte der menschlichen Sprache bezeichnen können. Unter Verwendung dieses Diagramms neuronale Netze Sie können MultitaskingEigene Tweets schreiben, Texte schreiben, Software entwickeln und ja, Gespräche führen.

Diese großartigen Sprachmodelle haben sich als nützlich erwiesen. Microsoft bietet ein Tool namens Copilot an, das mit einem großartigen Sprachmodell erstellt wurde Schlagen Sie die folgende Codezeile vor So wie Computerprogrammierer Softwareanwendungen erstellen, schlagen Tools zur automatischen Vervollständigung das nächste Wort vor, während Sie Textnachrichten oder E-Mails verfassen.

Andere Unternehmen bieten ähnliche Technologien an, die Marketingmaterialien, E-Mails und andere Texte generieren können. Dieser Typ wird auch als Technologie bezeichnet Kreative künstliche Intelligenz.

Veröffentlichen Unternehmen Versionen davon, mit denen Sie jetzt chatten können?

Richtig. Im November veröffentlichte OpenAI ChatGPT, das erste Mal, dass die Öffentlichkeit es ausprobieren konnte. Die Leute waren überrascht … und das aus gutem Grund.

Diese Chatbots chatten nicht wie Menschen Sie scheinen oft. Sie können Hausarbeiten, Gedichte und jedes Thema diskutieren, das ihnen in den Weg kommt.

Warum machen sie Fehler?

Warum Sie lernen aus dem Internet. Denken Sie daran, wie viel Fehlinformationen und anderer Müll es im Internet gibt.

Diese Systeme wiederholen auch nicht Wort für Wort, was im Internet steht. Basierend auf dem, was sie lernen, erstellen sie eigene neue Texte, Forscher der künstlichen Intelligenz „halluzinatorisch“.

Aus diesem Grund geben Chatbots unterschiedliche Antworten, wenn Sie dieselbe Frage zweimal stellen. Sie reagieren auf alles, ob es auf der Realität basiert oder nicht.

Bedeutet das „Halluzinieren“ von Chatbots nicht, dass sie ein Gewissen haben?

Forscher der künstlichen Intelligenz verwenden gerne Begriffe, die diese Systeme menschlich machen. Halluzination ist jedoch ein einprägsamer Begriff für „sie erfinden Dinge“.

Es klingt gruselig und gefährlich, aber das bedeutet nicht, dass die Technologie lebt oder sich ihrer Umgebung in irgendeiner Weise bewusst ist. Sie erstellen Text anhand von Mustern, die Sie im Internet finden. In vielen Fällen mischt und kombiniert er Muster auf überraschende und verwirrende Weise. Sie wissen jedoch nicht, was Sie tun. Er kann nicht wie Menschen argumentieren..

Können Unternehmen Chatbots nicht daran hindern, sich anders zu verhalten?

versuchen

Mit ChatGPT versuchte OpenAI, das Verhalten der Technologie zu kontrollieren. Als eine kleine Gruppe von Leuten das System privat testete, bat OpenAI sie, ihre Antworten zu bewerten. Waren sie hilfreich? Sind sie wahr? OpenAI nutzt diese Qualifikationen, um das System zu verfeinern und weiter zu definieren, was die Technologie kann und was nicht.

Solche Techniken sind jedoch nicht perfekt. Gegenwärtig wissen Wissenschaftler nicht, wie vollständig authentische Systeme erstellt werden können. Sie können falsche und seltsame Reaktionen kontrollieren, aber sie können sie nicht aufhalten. Eine Möglichkeit, seltsames Verhalten zu verhindern, besteht darin, Chats kurz zu halten.

Chatbots sagen jedoch immer wieder Dinge, die nicht wahr sind. Auch wenn andere Unternehmen anfangen, diese Art von Bots einzusetzen, werden nicht alle von ihnen gut darin sein, zu kontrollieren, was sie tun können und was nicht.

Fazit: Glauben Sie nicht alles, was ein Chatbot Ihnen sagt.

Von Kate Metz

Die New York Times