По планете ходит фотография Папы Франциска, одетого в кричащий белый пуховик и с распятием почти в рэп-стиле. И у него было все необходимое, чтобы стать вирусным: чрезмерно, с известным человеком... и фальшиво. И все же миллионы сочли это правдой. «Спасибо» искусственному интеллекту, сгенерировавшему изображение.
Теперь, когда отголоски смеха утихли (определение «Монклеро» было просто блестящим), опасения экспертов растут.
Обманчивое искусство ИИ
Фотография Папы была создана с использованием Середина пути, программа искусственного интеллекта, которая генерирует фотореалистичные изображения на основе простых текстовых описаний. Фейковое изображение сначала появилось в социальной сети Reddit, на странице, посвященной искусству, созданному искусственным интеллектом, а затем стало вирусным в Twitter.
Вы это хорошо знаете: Midjourney — не единственный существующий инструмент. Также DALL-E OpenAI (то же, что ChatGPT) и Stable Diffusion предлагают схожие функциональные возможности. Беспокойство экспертов вызывает доступность и простота использования этих инструментов, которые позволяют создавать ложные изображения за несколько секунд и без необходимости специальных навыков.
Сегодня Папа, а завтра?
Генри Айдер, эксперт в области искусственного интеллекта, отмечает, что эта технология развивалась «молниеносно» за последний год и не демонстрирует никаких признаков замедления. В самом деле.
Хотя фальшивые изображения, сгенерированные ИИ, все еще имеют видимые недостатки, такие как «сбой» руки Папы на фотографии или размытость волос на столь же вирусных (и фейковых) фотографиях арестованного Трампа, эти недостатки можно устранить в рамках вопрос нескольких месяцев.
Отличить настоящие фотографии от поддельных всегда будет сложно, если вообще возможно. Когда «переделают» обычных, малоизвестных людей (которым легко отрицать), что произойдет?
Последствия не за горами
Ложные изображения могут иметь серьезные последствия, если их использовать против людей, у которых, в отличие от Папы, нет ресурсов, чтобы остановить их распространение. Их можно использовать для подставы людей, шантажа или унижения их или даже для искажения политических процессов.
Однако реальным побочным эффектом является возможность того, что эти фальшивые изображения заставят людей усомниться в реальности подлинных изображений. «Если все действительно, то ничто не действительно». Ежедневные новости, изображения стихийных бедствий, военных преступлений: ничто больше не будет иметь информативной ценности, все будет восприниматься как ложь. А если посчитать, сколько будет изображений такого типа в течение нескольких лет, вы поймете крайнюю серьезность ситуации.
Папа прощает, я нет
Не забывайте проявлять скептицизм и всегда проверяйте свои источники. Это единственный способ не попасть в ловушку ложных изображений, созданных ИИ. Даже если эти изображения подкрепляют ваши убеждения, они не обязательно верны.
И будьте честны: выдавая подделки за настоящие, вы нанесете ущерб: Папа Римский вас простит, а я нет.