Ученые научили искусственный интеллект распознавать дипфейки
Программа анализирует изображение и выдает достаточно точный результат
ИИ может определять картинки, созданные "коллегой" / Источник: Pexels
Компания-разработчик ChatGPT и DALL-E создала инструмент для распознавания изображений, которые сгенерировал искусственный интеллект. Сейчас классификатор работает только с результатами, созданными собственным генератором изображений OpenAI DALL-E 3 - но с высокой точностью.
Во время внутренних тестирований инструмент правильно идентифицировал "искусственные" изображения в 98% случаев. Сообщается, что классификатор также может определять типичные модификации с минимальным влиянием, такие как сжатие, кадрирования и изменения насыщенности.
С сегодняшнего дня OpenAI принимает заявки на доступ к классификатору для первой группы тестировщиков, включая исследовательские лаборатории и научно-ориентированные журналистские некоммерческие организации, в рамках Программы доступа для исследователей.
Также OpenAI планирует добавлять водяные знаки для обозначения цифрового контента (фото или аудио), которые "невозможно удалить", и присоединится к профильной отраслевой группе C2PA, в которую уже входят Google, Microsoft и Adobe. На фоне выборов в США и в мире в целом злоупотребление инструментами искусственного интеллекта растет - только в апреле, например, фейковые видео двух болливудских актеров, которые критикуют премьер-министра Нарендру Моди, стали вирусными в сети.