Amazon Alexa bringt Kind in Lebensgefahr

Das hätte ins Auge gehen können. Der Sprachassistent Amazon Alexa schlug einem Kind, das eine Aufgabe gestellt bekommen wollte, kurzerhand vor, ein Netzteil in die Steckdose zu stecken und es halb herauszuziehen und dann die beiden Kontakte mit einer Münze zu berühren. Das berichtet unter anderem das Blog The Bleeping Computer. So etwas kann einen tödlichen Stromschlag verursachen. Das erst 10jährige Kind hatte Alexa gefragt, welche Herausforderung es zum Zeitvertrieb annehmen sollte. Diese Funktion ist wohlbekannt, bei Apple Siri gibt es sie allerdings nicht.

Offenbar durchsucht die Künstliche Intelligenz von Alexa das Web nach Herausforderungen und tatsächlich: Auf TikTock gibt es derartige, lebensgefährliche Versuche. Vermutlich hat sich der Sprachassistent daran oder an Berichten über diese Versuche orientiert. Die Mutter des Kindes gab gegenüber Medien bekannt, dass sie zum Glück anwesend war, als die Aufgabenstellung verkünde wurde und sofort einschritt. Das Kind sagte seiner Mutter, dass so etwas sowieso nicht getan hätte, aber der Vorgang ist dennoch ein Beispiel dafür, was passieren kann, wenn man ohne menschliche Kontrolle eine KI einfach machen lässt.

Lesetipp

Alexa-Hack: Angreifern haben Zugriff auf dein Smarthome *Update: Statement von Amazon*

Über das Wochenende stellte sich heraus, dass Amazons Alexa zahlreiche Schwachstellen besitzt und damit dein Smarthome angreifbar macht. mehr

Eine offizielle Reaktion von Amazon steht noch aus. Gegenüber der Website Indy100 soll ein Amazon-Vertreter behauptet haben, dass die Challenges nun sicher seien. "Das Vertrauen der Kunden steht bei allem, was wir tun, im Mittelpunkt, und Alexa ist darauf ausgelegt, den Kunden genaue, relevante und hilfreiche Informationen zu liefern. Sobald wir von diesem Fehler erfuhren, haben wir schnell gehandelt, um ihn zu beheben."

Deine Meinung ist gefragt!

In welchen Feldern siehst du den Einsatz von KI kritisch? Bist du schon einmal durch eine KI unangenehm überrascht worden?