По словам эксперта, нередко записи с нераспознанными системой звуками, прослушивают «асессоры» - специалисты, занимающиеся «разметкой» данных для нейросетей. Оганесян отметил, что асессоры часто не оформлены как сотрудники компаний и не соблюдают обязательства конфиденциальности, поэтому особо «интересные» записи звуков или бесед в результате их деятельности могут утечь в интернет.
В связи с тем, что нейросети, распознающие голосовые команды, используют нечёткую логику, действия помощника могут оказаться неадекватными, считает основатель сервиса. Если при этом помощник управляет, в частности, умным домом или системой сигнализации, то его работа может нанести реальный ущерб – например, сигнализация перестанет работать или в пустом доме включится отопление.
Эксперт утверждает, что автономные устройства, такие как аудиоколонка, нацелены, в основном, на сбор аудиоданных, а голосовые помощники, встроенные в компьютеры или телефоны, обладают доступом ко всем данным операционной системы.
Как утверждает Оганесян, насколько безопасно использовать голосовой помощник, должен решать его владелец, руководствуясь своим пониманием вещей, которые с ним случаются и которые он желал бы оставить приватными.
Комментарии