Речь идет о проверке изображений, видео- и звуковых файлов.
Корпорация "Гугл" открыла всем желающим доступ к инструменту под названием SynthID Detector. Он распознает специальные метки, которыми некоторые сервисы снабжают искусственно сгенерированный контент.
Речь идет о проверке изображений, видео- и звуковых файлов. Детектор распознает только метки, которые ставит гугловский механизм SynthID. Его используют сервисы самого "Гугла", а также OpenAI (ChatGPT), южнокорейский гигант "Какао" (нейросеть "Канана", генерирующая картинки и видео), а также в генераторах компании Nvidia (Edify и другие).
Таким образом, все видео, изображения и звуковые файлы, которые генерируют нейросетевые сервисы этих фирм, сейчас помечены "водяными знаками" формата SynthID.
Открытый "Гуглом" детектор позволяет прогонять разные файлы на предмет поиска этих меток. Хотя есть много других платформ (а также локальных нейросетей), которые генерируют контент без метки SynthID, через четыре указанных сервиса производится огромная масса искусственного контента.
Пока что распознаватель ограничен 10 попытками в сутки на одного пользователя. Это сделано для того, чтобы "генераторщики" звука, видео и изображений не пытались избавиться от меток, постоянно анализируя результат в детекторе "Гугла" после разных трансформаций.
Если детектор заметит, что через него несколько раз прогоняется одинаковый файл, он может заблокировать попытки и не дожидаясь десятого раза.
Текстовые файлы этот анализатор не принимает, хотя технология SynthID применяется и в сгенерированных текстах на сервисах "Гугла", прежде всего "Джемини".
Однако OpenAI для текстов применяет собственную технологию, дешифратор которой тоже пока не собирается выкладывать в публичный доступ – из-за того, что "подобрать ключи" к текстовой маркировке гораздо проще, чем к тайным пометкам в визуальном и звуковом контенте, которые практически неистребимы.
Тем не менее, инструментов для распознавания "искусственного искусства" становится все больше. Они будут совершенствоваться и постепенно внедряться в широкое использование. Со временем это положит конец толкам о том, "настоящий это ролик или ИИ", хотя, разумеется, останутся мелкие сервисы, не маркирующие контент. Кроме того, у предприятий и отдельных пользователей, обладающих серьезными вычислительными мощностями, есть возможность разворачивать нейросетевые движки локально, не связывая себя ограничениями крупных платформ.
комментарии