Новости о том, что Siri записывает фрагменты наших разговоров с голосовым помощником, не новость, но утверждает, что эти короткие записи слушают агенты-люди, особенно в свете большого давления компании на конфиденциальность.
Это плохая оптика для Apple
Я страстно верю в важность конфиденциальности.
Это важно не только с точки зрения сохранения с трудом завоеванных свобод и защиты общественного дискурса; это также приобретает все большее значение во всех сферах человеческого существования – для каждой школы, медицинского учреждения или предприятия. История показывает, что отсутствие конфиденциальности оказывает разрушительное воздействие на общество, настраивая членов семьи друг против друга и подавляя инновации.
Предупреждения Apple о конфиденциальности, в том числе предупреждение генерального директора Apple Тима Кука о том, что многие технологические компании, с которыми мы работаем ежедневно, вводят нас в состояние наблюдения, важны (хотя и не всегда удобны для тех, кто утверждает, что конфиденциальность – это просто то, чем мы должны пожертвовать ради хорошие роботы, которые мы делаем).
Однако откровение о том, что Apple не дала понять, что записи наших частных разговоров передаются «подрядчикам» для «контроля качества» и «обучения», – это действительно плохая перспектива для компании.
Что говорит Apple
Apple заявляет, что:
«Небольшая часть запросов Siri анализируется для улучшения Siri и диктовки». Он также обещает, что «Пользовательские запросы не связаны с пользовательским Apple ID. Ответы Siri анализируются в безопасных помещениях, и все рецензенты обязаны соблюдать строгие требования конфиденциальности Apple ».
Это до некоторой степени обнадеживает, но, учитывая, что в некоторых случаях рецензенты Apple, как сообщается, слышали, как люди делятся личной информацией, включая свой адрес, перехода к разводу записанного звука с соответствующим Apple ID может быть недостаточно.
Apple нужно будет сделать еще немного.
Как Apple может исправить ситуацию
Начните с прозрачности
В условиях использования Apple скрытые предупреждения о том, что записи, сделанные с помощью Siri, иногда используются для контроля качества.
Вы также найдете обещание, что эти записи (в отличие от конкурентов) никоим образом не связаны с вашим Apple ID или личной идентификацией.
Эти обещания не очень ясны.
Вот почему я говорю, что Apple должна представить более четкие и понятные предупреждения о конфиденциальности при использовании Siri на своих устройствах. Ему необходимо переместить эти предупреждения в центр и в центр и дать понять, что он не только иногда использует эти записи, но также и то, как он их использует, как защищает личность при их использовании и как долго эти записи хранятся.
Но дайте людям контроль
Apple должна (я думаю) отказаться от записи Siri.
То есть при настройке Siri на новом устройстве пользователю должна быть предоставлена возможность явно отклонить использование своего голоса для любых целей, кроме исходного запроса.
Вы должны иметь возможность сказать, что не хотите, чтобы ваши данные использовались при обучении или контроле качества.
«Но тогда Apple не сможет так быстро обучить помощника», – могут пожаловаться некоторые. Возможно, нет, но он сохранит лидерство в защите конфиденциальности.
Не только это, но и то, насколько полезны эти записи на самом деле, можно спорить.
Станьте более ответственными
Кто такие «подрядчики» Apple, Google, Amazon и всех остальных, которые проверяют и слушают эти короткие записи того, что мы говорим?
Как их нанимают?
Каковы их должностные инструкции? На кого еще они работают?
На каком основании им можно доверять и как люди могут получить компенсацию в случае злоупотребления этим доверием?
И почему пользователи Siri еще не знают ответы на все эти вопросы?
В том, что эти подрядчики привлекаются на аутсорсинг, не имеет смысла.
Apple должна выполнять эту работу внутри компании, полностью отвечать за то, что ее голосовые работники и руководство делают с этими записями, и обеспечить клиентам возможность наказать за любое нарушение конфиденциальности их данных.
Убедитесь, что вам нужна информация
Apple заявляет, что записывает и использует только небольшие фрагменты слов, которые слышит, но нужно ли вообще хранить или проверять столько образцов, сколько она хочет взять?
Подумайте об этом так:
Если Siri на ваших часах или HomePod слышит то, что, по его мнению, является командой «Привет, Siri», но впоследствии запрос не поступает, то, безусловно, он должен быть достаточно умен, чтобы распознать ложную тревогу.
В случае такой ложной тревоги Siri на устройстве, безусловно, должна быть достаточно умной, чтобы узнать причину случайного вызова и быть менее чувствительной к этому звуку в будущем.
(А Хранитель В отчете утверждалось, что звук молний иногда будит Siri, например – конечно, Siri может научиться игнорировать звук молний в ответ.)
Суть в том, что в случае вызова Siri, но не поступает никакого конкретного запроса, система должна быть достаточно умной, чтобы игнорировать взаимодействие и удалять любую запись, сделанную в результате этого взаимодействия, за пределами (возможно) первых трех секунд, в течение которых ему показалось, что он услышал команду на спусковой крючок.
Одно лишь принятие этого шага в значительной степени предотвратило бы некоторые из наиболее вопиющих записей, которые Сири, как говорят, слышала и поделилась с подрядчиками.
Я не хочу, чтобы Siri лучше слушала то, что я говорю, когда я не хочу, чтобы она слушала. Я просто хочу, чтобы он лучше слушал, когда я делаю запрос.
Нужны ли вообще люди?
Голосовые технологии быстро развиваются. Возникает вопрос: «Обязательно ли подрядчикам-людям вообще слушать фрагменты разговоров, связанные с Siri?»
Я думаю, что во многих случаях это просто не так.
Записи должны быть переданы через Siri и другие технологии распознавания голоса в первую очередь, чтобы автоматизировать проверку на точность.
Только в тех случаях, когда разные системы распознавания голоса не могут найти способ согласовать сказанное, могут понадобиться человеческие уши.
Я не эксперт в области искусственного интеллекта, но для такого рода анализа созданы модели / алгоритмы случайного леса – только когда технология не может прийти к согласию относительно того, почему она ошиблась в запросе, если человек вообще может понадобиться.
Почему это важно
Это всего лишь небольшая коллекция предложений, которые, я надеюсь, примет Apple, чтобы сделать Siri самым частным голосовым помощником в отрасли.
Это имеет значение.
Думаю об этом:
Мы не только используем слова, но и по мере того, как сенсорные технологии и искусственный интеллект входят в разные сферы повседневной жизни – от картографирования до повсеместной виртуальной реальности – потребность в конфиденциальности становится еще более важной, так как в нашей жизни станет гораздо больше. открытая книга.
Решения, которые мы сегодня принимаем в отношении голоса, будут определять все остальные сферы конфиденциальности.
Некоторые считают, что конфиденциальность – это цена, которую мы должны заплатить за удобство использования компьютеров, но я никогда с ними не соглашался.
Мы находимся в такой точке в истории человечества, когда решения, которые мы принимаем в отношении конфиденциальности голосового помощника, будут иметь отклик в нашем будущем.
Нам нужно разобраться с этим эффективным способом, потому что, если мы этого не сделаем, реализация будет небезопасной и потенциально этически необоснованной.
И Apple должна продвигаться вперед со своим требованием цифрового билля о правах в этой сфере, законопроекта, который ставит пользователей в центр контроля конфиденциальности.
