Google начинает борьбу с фотофейками ИИ

Google вводит новый инструмент под названием "Об этом изображении" в англоязычном поиске в США (пока что), который сможет определить, когда изображение было впервые проиндексировано и предоставить теги метаданных, что помогут идентифицировать изображения, сгенерированные искусственным интеллектом.

Этот инструмент похож на выпадающий список "об этом" в результатах обычного поиска и будет доступен в поиске изображений Google этим летом. Когда пользователи загружают изображение неизвестного происхождения, они увидят меню, позволяющее узнать, когда эта картинка была впервые проиндексирована Google, где она впервые появилась в сети и на каких сайтах она появлялась с тех пор.

С ростом числа фотореалистичных изображений, которые были изменены с помощью инструментов редактирования ИИ или сгенерированы ботами вроде Midjourney, становится все труднее отличить настоящие изображения от поддельных. Новый инструмент Google призван решить эту проблему. Например, если фотография экстренного новостного события впервые появилась на Getty, Reuters или CNN, то это, казалось бы, свидетельствует о ее подлинности. Но фотография, впервые появившаяся на случайном юмористическом блоге с водяным знаком новостной организации, скорее всего, окажется подделкой, независимо от того, насколько реалистично она может выглядеть.

Google также объявил, что его собственные инструменты генеративного ИИ будут включать метаданные к каждой фотографии, чтобы указать, является ли это изображение созданным ИИ или нет, независимо от того, просматривается ли оно на платформе Google. Другие создатели и издатели также смогут маркировать свои изображения с помощью той же технологии, хотя пока неясно, насколько широко будет распространено это участие. Midjourney, Shutterstock и другие платформы внедрят эту разметку в ближайшие месяцы.

Если инструмент будет работать так, как задумано, мы надеемся, что он будет скопирован конкурентами и станет доступен людям не только в США, поскольку распространение дезинформации - это глобальная проблема.

Источник: theverge