Владелец Facebook признал, что его новый ИИ может нанести «непреднамеренный вред»
Meta представила новый инструмент искусственного интеллекта под названием Voicebox, который, по ее утверждению, представляет собой прорыв в генерации речи с помощью искусственного интеллекта. Однако компания пока не выпускает его для широкой публики, потому что это может иметь катастрофические последствия.
В настоящее время Voicebox может воспроизводить аудиоклипы речи на шести языках (все они европейского происхождения) и, согласно сообщению в блоге Meta, является первой в своем роде моделью искусственного интеллекта, способной выполнять задачи, выходящие за рамки того, для чего она была специально обучена. Meta утверждает, что Voicebox легко превосходит конкурирующие ИИ для генерации речи практически во всех областях.
Так на что он действительно способен? Ну, во-первых, он может воспроизводить достаточно точные человеческие голосовые сигналы текста в речь, используя образец аудиофайла, всего за две секунды, кажущаяся безобидной способностью, которая имеет огромный разрушительный потенциал в чужих руках.
Сомнительная сила ИИ
Даже если оставить в стороне хитрые вещи, ползающие по сети с ChatGPT и другими инструментами искусственного интеллекта (Voicebox, безусловно, звучит так, как будто это может быть благом для любого, кто делает поддельное порно мести), это вид технологии, которая может буквально начать войну.
Ведь у большинства крупных общественных деятелей, в том числе политиков, есть многочисленные аудиозаписи, гуляющие по Интернету. Было бы несложно сопоставить несколько фрагментов речи нынешнего политического лидера и использовать Voicebox для создания поразительно реалистичной копии его голоса, которую затем можно было бы использовать в гнусных целях.
Большой Цук (извините, «генеральный директор Meta Марк Цукерберг») годами много инвестировал в разработку ИИ в Meta.
Конечно, такие инструменты уже существуют, но они менее убедительны; Возможно, вы видели веселые видео в социальных сетях, где Джо Байден, Дональд Трамп и Барак Обама якобы вместе играют в Fortnite. Смеяться хорошо, но звук вряд ли убедителен. Он имитирует манеры любого президента-геймера достаточно, чтобы быть узнаваемым, но не настолько хорошо, чтобы любой, у кого есть мозги, действительно думал, что это они.
Meta, по-видимому, считает, что новый инструмент достаточно хорош, чтобы обмануть, по крайней мере, большинство людей, поскольку он явно не публикует Voicebox для публики, а вместо этого публикует исследовательскую работу, описывающую инструмент классификации, который может отличать речь, сгенерированную Voicebox, от реальной человеческой речи. Мета описывает классификатор как «высокоэффективный», но не полностью эффективный.
Говорящие машины
Хотя Meta стремится подчеркнуть, что признает «потенциал неправильного использования и непреднамеренного вреда» таких инструментов, как Voicebox, важно не упускать из виду потенциальные преимущества, которые генерация речи ИИ может иметь в будущем.
Голосовой ящик, как и подобает его названию, может обеспечить гораздо более натуралистическую речь для тех, кто немой или по какой-либо иной причине не может общаться, устраняя некоторые барьеры для взаимодействия, вызванные существующим преобразованием текста в речь «голосом робота», прославленным физиком Стивеном. Хокинг. Он также может выполнять перевод в реальном времени, приближая нас на один шаг к «универсальным переводчикам», которые в настоящее время существуют только в научной фантастике.
Instagram, принадлежащий Meta, может оказаться успешным домом для Voicebox, улучшая и переводя видео для более широкой аудитории.
Есть и другие приложения; меньше, но не менее полезно. Meta объясняет в своем блоге, что Voicebox можно использовать для редактирования и улучшения записанной речи. Если вы записали какой-то звук, но неправильно произнесли слово или были прерваны фоновым шумом, Voicebox может изолировать оскорбительный сегмент и «перезаписать» речь с вашим голосом. Впечатляет и немного пугает.
Тем не менее, приятно видеть, что Мета проявляет здесь серьезный и взвешенный подход. Неистовое стремление Microsoft внедрить Bing AI во все подряд не раз приводило к обратным результатам, а OpenAI, который использует ChatGPT по всему миру, за последний год приводил ко всевозможным странностям. Мы живем в золотой лихорадке ИИ, и эти инструменты проникают во все сферы нашей жизни .
Немного осторожности, терпения и уважения к масштабам этой технологии — это долгожданное зрелище — хотя я сомневаюсь, что Meta будет сидеть на Voicebox слишком долго, поскольку акционеры, несомненно, зададутся вопросом, сколько денег это может им принести…
Информационный бюллетень TechRadar
Подпишитесь, чтобы получать ежедневные новости, обзоры, мнения, анализ, предложения и многое другое из мира технологий.
Свяжитесь со мной для получения новостей и предложений от других брендов Future. Получайте от нас электронные письма от имени наших доверенных партнеров или спонсоров. Отправляя свою информацию, вы соглашаетесь с Условиями использования и Политикой конфиденциальности, и вам не менее 16 лет.
Tоп товаров AliExpress
Introducing Meta Quest 3 | Coming This Fall
Redesigned from the inside out, Meta Quest 3 is the wireless headset that can do it all. Enjoy more than twice the GPU processing ...