«Умная» колонка от Amazon записала разговор пары и отправила его их другу


«Умная» колонка от Amazon записала разговор пары и отправила его их другу

Echo и иные устройства Amazon, управляемые ботом искусственного интеллекта Alexa, появились на рынке в 2014 г. и с того времени пользуются популярностью.

Уполномоченные Amazon сообщили о том, что в процессе конференции могли прозвучать отдельные реплики, которые девайс оценил как призыв к действию, из-за чего и произошла случайная запись и отправка частной конференции. Об инциденте здешнему радио Kiro 7 сказала пользователь, жительница американского города Портленд. По версии компании, это произошло из-за того, что в разговоре прозвучали фразы, созвучные с командами для Alexa.

Колонка принадлежит Дэниэль — женщине, живущей с мужем в Портленде.

В Amazon назвали этот инцидент случайностью.

«Echo активировался, когда в общении прозвучало, схожее на „Алекса“ (название голосового ассистента, встроенного в колонку)». Спикеры Echo не должны подключаться к интернету, пока не услышат ключевое слово (по умолчанию это «Alexa»).

«ИИ воспринял разговор неправильно — ему показалось, что в диалоге звучала команда „Отправить сообщение“». Оказалось, что колонка услышала в общении супругов слово, схожее на команду активации, а после этого приняла одну из фраз за команду «Отправить сообщение». «В фоновом разговоре ей послышалось имя получателя из списка контактов супругов».