Als ChatGPT Shubham Agarwal offenbarte, dass ihre Interaktionen die Reaktionen des Chatbots auf andere Menschen beeinflusst haben könnten, beeilte sich der Tech-Journalist, Informationen über sich selbst aus dem Speicher des Chatbots zu löschen.
Ausgabe, sagt er rein Neuer Wissenschaftler, Er fand keinen „Löschen“-Button: Chatbots mit künstlicher Intelligenz (KI), die auf Datensätzen trainiert wurden, darunter eine große Anzahl von Websites und Online-Artikeln, vergessen nie, was sie gelernt haben.
Unternehmen, die diese Art von KI entwickeln, müssen jedoch das „Recht auf Vergessenwerden“ einhalten. Es wird auch als „Recht auf Löschung“ bezeichnet und basiert auf einer europäischen Richtlinie zum Datenschutz und ermöglicht es jedem, von einer Organisation die Löschung der ihn betreffenden personenbezogenen Daten zu verlangen.
Die Unfähigkeit von Chatbots, diesem Recht nachzukommen, bedeutet, dass sie möglicherweise personenbezogene Daten offenlegen. „Im Moment greifen KI-Unternehmen auf Notlösungen zur ‚Maskierung‘ zurück, bei denen sie ihre Dienste so programmieren, dass sie den Zugriff auf bestimmte Informationen blockieren und die Antworten nicht preisgeben. „Leider kann ich Ihre Frage nicht beantworten“, sagt zum Beispiel ChatGPT, wenn ich darum bitte, eine persönliche Datei über mich zu erstellen.“ Der Erzähler Shubham Agarwal Neuer Wissenschaftler.
Ein von Google ins Leben gerufener Wettbewerb
Allerdings besteht immer die Gefahr, dass diese Informationen aufgrund von Problemen oder sogar böswilligen Eingriffen in den Antworten des Chatbots auftauchen. Dieses unmögliche Vergessen bedeutet auch „dass wir Hacker nicht daran hindern können, die KI-Ausgabe zu manipulieren, indem sie falsche Informationen oder böswillige Anweisungen in die (Trainings-)Daten einfügen“, stellt der unabhängige Journalist noch einmal fest.
In seinem in der britischen Wochenzeitung veröffentlichten Artikel listet er die unterschiedlichen Ansätze von Forschern an Universitäten, aber auch von Unternehmen wie Google oder OpenAI (Erfinder von ChatGPT) auf, potenziell sensible Informationen aus dem Speicher der KI zu entfernen, ohne sie umschulen zu müssen kratzen. “Eine Sache ist sicher, er stellt fest, ist, dass es im Rennen um Verlernen (KI) keinen Favoriten gibt.“
Google hat sogar einen Wettbewerb organisiert, um diejenigen zu belohnen, die effektive Lösungen finden können. Das zeigt, wie wichtig das Thema ist. Der Optimist Shubham Agarwal glaubt, dass diese Art von Initiative darauf hindeutet, dass wir bald eine bessere Vorstellung von den Methoden haben könnten, die eine neue Generation großer Sprachmodelle (LLMs) gewährleisten könnten, die vergessen können, was sie gelernt haben.
togel deposit pulsa tanpa potongan