Фоторедактор AI Portrait обвинили в расовых предрассудках

Фоторедакторы, способные трансформировать селфи во что-то новое, переживают новый пик популярности. Не успели все прийти в себя от «состаривающего» приложения FaceApp, которое напугало американские власти, так в центре внимания оказался сайт AI Portrait, превращающий фотографии в картины в стиле эпохи Ренессанса.

К сожалению, тут не обошлось без скандала.

Созданный MIT-IBM Watson AI Lab инструмент позволяет представить, как бы вас видели художники, жившие в эпоху Возрождения. «Портреты отражают внешнюю красоту, социальный статус, и выходят за рамки нашего тела и лица. Потрет становится психологическим анализатором и глубоким отражением нашего существования», — заявляют разработчики программы, работающей на базе технологии искусственного интеллекта (ИИ).

Они также заявили о том, что ИИ черпает информацию из «десятков тысяч картин, начиная от раннего Ренессанса и заканчивая современным искусством», чтобы генерировать различные варианты портретов.

Как оказалось, AI Portrait довольно неплохо справляется с поставленной задачей, если обрабатывает фотографии европейцев. Однако, темнокожие пользователи и пользователи-азиаты остались недовольны сервисом, потому что он пытается «превратить» их в белых.

Автор портала Mashable Морган Сун пожаловалась на то, что после обработки тон ее кожи стал заметно светлее, а размер глаз поменялся. Странной трансформации также удивился пользователь индийского происхождения Нираж Аграваль, который говорит о том, что стал более похож на итальянца.

С расистским скандалом в свое время столкнулось и приложение FaceApp, которое пережило вторую волну популярности. В 2017 году его разработчику Ярославу Гончарову пришлось извиняться за фильтр под названием Hot. По задумке, он должен был делать фотографии более привлекательными, но в результате он сильно осветлял тон кожи и делал черты лица похожими на европейские. Это сильно возмутило темнокожих пользователей, которые назвали фильтр «расистским».

Гончаров принес свои извинения, списав все на некорректную работу нейросети.

Спустя несколько месяцев в FaceApp появился другие фильтры, которые также заклеймили расистскими.

Приложение предоставило сразу четыре новых фильтра: «белый», «черный», «азиат» и «индиец», позволяющих представить, как бы выглядел пользователь, если бы был представителем той или иной расы. После волны негативных комментариев в адрес разработчика Гончаров заявил, что удалил фильтры, но уточнил, что при добавлении не имел в виду ничего плохого.

Новые проблемы начались у FaceApp уже в этом году. Американские власти, напуганные тем фактом, что Wireless Lab базируется в Санкт-Петербурге, призвали ФБР провести расследование в отношении вирусного приложения. Сенатор США Чак Шумер в своем письме в адрес спецслужбы указал на тот факт, что использование FaceApp может нести в себе угрозы национальной безопасности США, поскольку пользователи предоставляют приложению «полный и бесповоротный доступ» к своим личным данным.

«В век технологии распознавания лиц, которая используется и в целях безопасности, и в целях слежки, крайне важно, чтобы пользователи знали, как защитить свою персональную и биометрическую информацию, в том числе и от враждебных иностранных агентов», — заявил сенатор.

Wireless Lab, создавшая FaceApp, в свою очередь утверждает, что использование ее приложения совершенно безопасно. В компании сообщили, что приложение хранит загруженное фото в облаке, но это делается из соображений трафика: таким образом одинаковые снимки не обрабатываются дважды, что положительно сказывается на производительности приложения.

«Большая часть фотографий удаляется с наших серверов в течение 48 часов», — уверяют в компании.

Что касается AI Portrait, то, как указывают разработчики, загруженные на сайт фотографии моментально удаляются, а потому не хранятся на серверах компании, что нейтрализует угрозу утечки.