Ghibli-фильтр в ChatGPT: весёлый тренд или угроза конфиденциальности?

Уже больше недели народ массово штурмует сервера OpenAI, чтобы протестировать новую функцию ChatGPT — генерацию изображений, превратившуюся в настоящий интернет-бум. «Ghiblify» — превращение обычных фото в аниме иллюстрации в стиле студии Ghibli.

Инстаграм, Реддит, Дискорд, Фейсбук, X —  всюду созданы ИИ-портреты в духе «Унесённых призраками» или «Тоторо». Пользователи генерируют в нейросети свои селфи, фото домов, отпускные кадры и даже исторические события. Но когда первая волна восторга угаснет, стоит задуматься, безопасна ли она, как кажется на первый взгляд?

Некоторые эксперты уже вовсю бьют тревогу: у тренда есть и тёмная сторона — от проблем с авторскими правами до серьёзных вопросов о приватности данных.

На прошлой неделе OpenAI расширила возможности ChatGPT, дав пользователям генерацию картинок в разных художественных стилях. Однако больше всего пришёлся по нраву именно «Ghibli-фильтр«, который одним кликом превращает фото в милую анимацию.

Причём увлеклись этим не только простые пользователи. Сам Сэм Альтман (CEO OpenAI), Илон Маск, топы из Ripple и другие крупные фигуры уже выложили свои анимешные версии в соцсетях. Всё выглядит настолько массово и безобидно, что можно подумать — раз все этим пользуются, значит, подвоха нет.

Но есть нюанс. Альтман признался в посте на X (27 марта), что их GPU буквально «плавятся» из-за перегрузки сервиса. Только вдумайтесь: один тренд добавил OpenAI более миллиона новых пользователей. Следовательно, больше пользователей — больше данных.

Назревает вопрос: весь этот шум — обычный хайп или OpenAI сознательно расширяет свою базу данных за счёт стремящихся за трендами пользователей, которые радостно передают свои лица для обучения ИИ?

Любой ИИ-модели нужна огромная база данных, на которой её совершенствуют. Проблема в том, что туда, скорее всего, попадает и куча защищённого авторским правом контента.

Художники и дизайнеры уже на взводе: ИИ учится копировать их стиль без их ведома, а значит, постепенно может просто их заменить. Один из самых громких голосов на эту тему — Эд Ньютон-Рекс, CEO некоммерческой ИИ-организации Fairly Trained. Он утверждает, что нейросети буквально «пожирают» чужие работы.

Кстати, сама Studio Ghibli официально НИКОГДА не разрешала использовать свой стиль для ИИ-контента. Более того, сооснователь студии, Хаяо Миядзаки, вообще терпеть не может ИИ-искусство.

В одном из интервью в 2016 году он увидел ИИ-анимацию и жёстко прошёлся по ней:

«Люди, создающие это, не понимают, что такое боль. Мне мерзко смотреть на это. Это оскорбление самой жизни.»

Так что Ghibli-стиль в ChatGPT — это, по сути, именно та коммерциализация искусства, которую он всегда презирал.

Но OpenAI не спешит ставить запреты. Почему? Потому что в данный момент никто не подавал жалобу за это, а значит, можно продолжать собирать тонны пользовательских данных.

Прежде чем получить Ghibli-селфи, вы загружаете в ChatGPT своё фото. А вот тут стоп-кадр: вы задумывались, что именно происходит с вашими изображениями?

Допустим, OpenAI и в правду может использовать их для дальнейшего обучения моделей. Каковы гарантии, что ваши фото не сохраняются и не попадают в базу данных будущих ИИ-проектов?

Рэйчел Тобак, CEO компании SocialProof Security, заявляет, что большинство людей даже не задумываются об этом: они загружают фото, уверенные, что они после удаляются. А на деле? Может быть, OpenAI уже копит новую базу лиц.

29 марта эксперт по ИИ-приватности Луиза Яровски напомнила, что согласно европейским законам (в частности, GDPR, статья 6.1.a), загружая фото, вы автоматически даёте OpenAI разрешение на его обработку.

«Тысячи людей добровольно отдают свои лица ChatGPT. Это значит, что OpenAI получает гигантский массив новых данных для обучения своих ИИ-моделей — и бесплатно.»

OpenAI пока не выпустила официальное заявление по этому поводу, но утверждает, что «конфиденциальность и безопасность остаются приоритетом». В понедельник их представитель заявил, что компания «минимизирует сбор личных данных и не использует частную пользовательскую информацию для обучения моделей».

Кроме того, OpenAI предлагает пользователям удалять контент самостоятельно и отключать его от использования для тренировки моделей.

В сети уже гуляют теории, что вся эта «Ghiblизация» — не что иное, как самая масштабная скрытая кампания по сбору биометрических данных.

Некоторые пользователи X пишут: «Это просто гениальный способ загнать миллиарды людей в систему, где они по доброй воле сдают свою физиономию ИИ.»

Но не все согласны с такой паникой. Например, кибер-инженер на X уверяет, что ИИ не хранит изображения после обработки:

«ChatGPT НЕ запоминает картинки после трансформации. Можно просто почистить кеш для подстраховки, но на данный момент AI не способен обратно восстановить оригинал изображения и добавить его в базу.»

Другие отмечают, что паника вокруг ИИ-артов смешна, учитывая, что большинство людей бездумно хранят свои фото в облаках, где с безопасностью всё туманно.

«Забавно, как люди носятся с тем, что OpenAI «украдёт» их фото, но при этом заливают все свои личные снимки в Google Photos и iCloud, думая, что там безопаснее. Лол.»