Патент на манипуляцию
Политолог, эксперт Центра ПРИСП Андрей Глоцер – о новой разработке Microsoft, которая переписывает речь человека в прямом эфире.
Новости будущего «королевства кривых зеркал», открывающие весьма специфические перспективы для мира «постправды» и политических манипуляций:
Microsoft подала заявку на патент ИИ, который переписывает речь человека в прямом эфире. Система слушает трансляцию, находит слова, которые решила заменить, подставляет новые голосом самого спикера и перерисовывает ему губы, чтобы зритель ничего не заметил. Задержка 1–10 секунд указана как пример предполагаемой работы.
В заявке предусмотрены:
– Замена произнесённых слов с учётом индивидуального профиля зрителя: на замену теоретически идут слова-паразиты, сленг, оговорки, ошибки, а также «оскорбительные», «неуместные» и «нечувствительные» слова. Коррекция ошибок и фактических сведений с использованием информации из поиска.
– В профиле, конечно, учитывается возраст, языки, регион рождения и проживания, этническая принадлежность, культура, религия, образование.
– Изменение аудио и изображения для согласования движений губ с новой речью.
– Сохранение исходной записи в одном из вариантов системы. Но смотрит зритель уже исправленную версию.
В общем, сидите вы, пьёте кофе и чай, смотрите эфир и слышите не то, что человек сказал, а то, что решили с помощью машины показать именно вам.
То есть перед нами потенциально великолепная возможность персонализированной манипуляции любой, в том числе и политической, информацией.
Представим, что политик N произносит: «Мы намерены начать войну/ввести налоги». Один зритель слышит оригинал, другой – смягчённую формулировку, третий – совершенно иной вариант, адаптированный под его убеждения в соответствии с характеристиками профиля. При этом все трое видят одинаково убедительное выступление.
Это гипотетический сценарий злоупотребления, разумеется, а не заявленная Microsoft практика на будущее.
Но закавыка в том, что сама архитектура системы допускает изменение смысла высказывания, и именно это вызывает принципиальные вопросы о согласии выступающего, уведомлении зрителей и сохранении подлинной записи.
Использовать можно везде: на лекциях, концертах, спортивных трансляциях, стримах, подкастах, а также в очках дополненной реальности, телефонах и камерах. Отдельный пункт про синхронный перевод с перерисовкой губ под другой язык.
Главный вопрос теперь не только технический, но и правовой и этический: должна ли вообще существовать возможность изменять публичную речь человека без его согласия и без явного предупреждения аудитории? В перспективе ИИ элементарно сможет научиться убедительно лгать, и его можно будет использовать в этих целях, причем делать это от нашего имени, нашим голосом и с нашим лицом.
И если такая практика станет допустимой без согласия выступающего и без предупреждения аудитории, мы рискуем окончательно утратить не только доверие к информации, но и саму возможность общего разговора о действительности. Ведь спорить о правде можно лишь тогда, когда существует хотя бы общее понимание того, что именно было сказано.















