Интернет, технологии и этика (Generation П почти наяву)

["Dmitry Shkolnikov" <ezh@ezhe.ru>]

Здравствуйте, ЕЖЕ!

После нашумевшего успеха DALL-E (нейросеть, генерирующая изображения по 
словесному описанию) корпорация “добра” Гугл сделала свою, добрую версию 
такого инструмента. Если вдруг не успели ещё ознакомиться, то вот ссылка 
на страничку: https://imagen.research.google/

Качество картинок выглядит выше, чем у DALL-E, и уже гораздо меньше 
артефактов(конечно, полевые испытания лучше покажут, но пока 
довольствуемся тем, что есть). Из интересных особенностей появилась 
возможность обрабатывать и интерпретировать весьма подробные описания, 
например: “Стена в королевском замке. На стене две картины. На левой 
картине маслом нарисован в деталях король енот. На левой картине в 
деталях изображена королева енотиха.” И на выходе картинка очень 
высокого качества.

Подобные инструменты могут обладать огромной силой в умелых и ловких 
руках, например, создавая различные фейки в чьих-то интересах. Например, 
при продаже бизнеса за пару дней до подписания сделки в новостях 
появляются статьи с заголовками: “В сети появились изображения с ИМЯРЕК 
в компании с Усамой бин Ладеном, датированные 2002 годом. Возможно, 
бизнес ИМЯРЕК был построен на деньги террористов.” Развенчание фейка 
требует времени и ресурсов, а при нынешних скоростях жизни и принятия 
решений грамотно вброшенная деза может очень сильно поменять ход вещей, 
хоть ту же сделку сорвать или обвалить рынки, или устроить 
государственный переворот в стране. Пока эксперты будут разбираться с 
материалом, завести и зажечь народ фотографиями первых лиц государства и 
смести власть, приправляя соусом борьбы с коррупцией, за права человека 
и свободы. После переворота и, возможно, убийства лидеров страны, можно 
будет и признать, что произошла чудовищная ошибка, но фарш назад не 
провернуть. И совсем недалёк момент, когда и видеосюжеты можно будет 
генерировать таким же образом. Более-менее статичные сцены типа дикторов 
новостей уже вовсю генерируются гораздо более простыми нейросетками, я 
сам пользовался вот таким продуктом для создания обучалок по продукту 
https://www.synthesia.io . (Или вот такое ещё есть https://wave.video/ )

Подобные технологии могут являться очень мощным оружием и могут наносить 
ущерб посильнее МКБР. Но за такими технологиями нет никакого 
общественного надзора и контроля, равно как и простым людям недоступны 
инструменты для проверки фото и видео на достоверность. Как вы думаете, 
уважаемые Ежи, как будет развиваться подобное направление с точки зрения 
регулирования и надо ли уже что-то делать в общественном поле? И что 
делать?

--
Best regards,
    Dmitry.


Оценить письмо Reputatio: http://ezhe.ru/reputatio/87b863d03a