OpenAI разработала инструмент для определения изображений, созданных искусственным интеллектом, в частности своим генератором DALL-E 3.
Система показывает впечатляющие результаты, успешно классифицируя 98% изображений, созданных DALL-E. Однако существуют значительные ограничения.
Во-первых, эффективность инструмента снижается, если речь идет об изображениях, созданных другими ИИ-генераторами — успех составляет всего 5-10%.
К тому же, любые модификации изображения, такие как изменение оттенка, могут существенно ухудшить точность распознавания. Например, изменение оттенка снижает успешность до 82%.
Особенно часто сложности возникают при анализе глубоко модифицированных изображений, в этих случаях OpenAI даже не публикует данные об успешности.
Все эти ограничения могут быть критичны, особенно в контексте выборов, когда изображения, сгенерированные ИИ, часто модифицируются для усиления эмоциональной реакции.
Источник новости: www.ferra.ru
