Помните времена, когда можно было за версту распознать контент, сгенерированный ИИ? Эти дни стремительно уходят в прошлое.

Раньше мы полагались на простые признаки — неуклюжие фразы, повторяющиеся шаблоны, то самое чувство зловещей долины. Долгое время это работало отлично. А теперь? Уже не особо. Боты вышли на новый уровень. Они пугающе точно имитируют человеческий стиль письма. Ваши старые приемы обнаружения? Сейчас практически бесполезны.

Вот в чем дело: по мере того как эти системы становятся умнее, мы вынуждены постоянно догонять их. Настоящая проблема теперь не только в том, чтобы распознать подделку — нужно строить новые системы верификации, которые действительно сложно (и дорого) обойти. Вроде доказательства выполнения работы — только для подлинности. Цифровые подписи. Проверка на базе блокчейна. Может быть, даже решения на основе децентрализованной идентичности.

Гонка вооружений уже началась. И дешевые методы обнаружения больше не помогут. Нам нужны сигналы, которые дорого подделывать — экономически, вычислительно или и так, и так. Иначе мы просто останемся в океане синтетического контента без спасательных средств.