ИИ и фейки: как технологии повышают важность критического мышления в бизнесе

В современном мире, где искусственный интеллект становится неотъемлемой частью бизнес-процессов, крайне важно уметь отличать реальную ценность от информационного шума. ИИ открывает колоссальные возможности для роста и автоматизации, но также требует более внимательного подхода к проверке информации.

Почему важна проверка информации?

Недавний инцидент с «разоблачителем» из службы доставки, который опубликовал вирусный пост о «недобросовестных» алгоритмах, ярко демонстрирует эту проблему. Пользователь Reddit утверждал, что его компания эксплуатирует водителей и клиентов. Этот пост быстро набрал 87 000 голосов «за» и миллионы просмотров на других платформах.

«Вы всегда подозреваете, что алгоритмы настроены против вас, но реальность на самом деле гораздо более удручающая, чем теории заговора», — написал предполагаемый разоблачитель.

Он заявлял, что писал этот объемный текст, находясь в библиотеке и используя общедоступный Wi-Fi, описывая, как компания, по его словам, использовала юридические лазейки для присвоения чаевых и зарплат водителей.

К сожалению, такие заявления звучат правдоподобно. Ранее, например, компания DoorDash уже была замешана в скандале с присвоением чаевых, что привело к мировому соглашению на сумму 16,75 миллиона долларов. Однако в данном случае история оказалась полностью выдуманной.

Эра ии-фейков: новые вызовы для бизнеса

Люди часто обманывают в интернете. Но гораздо реже такие посты попадают на первые страницы Reddit, собирают десятки тысяч «лайков» и миллионы показов на других платформах.

Журналист Кейси Ньютон из издания Platformer связался с автором поста. Тот прислал фото, похожее на пропуск сотрудника UberEats, а также 18-страничный «внутренний документ», в котором описывалось использование ИИ для определения «показателя отчаяния» отдельных водителей. Но при попытке проверки подлинности Ньютон понял, что столкнулся с масштабной ИИ-фальсификацией.

«Большую часть моей карьеры такой документ показался бы крайне правдоподобным, потому что на его создание ушло бы много времени, — написал Ньютон. — Кто стал бы тратить силы на подробный, 18-страничный технический документ о динамике рынка просто для того, чтобы подшутить над репортером? Кто бы стал создавать фейковый пропуск?»

Ранее злоумышленники всегда пытались обмануть журналистов, но появление инструментов ИИ сделало проверку фактов еще более сложной и кропотливой задачей.

Как ии помогает бороться с ии-фейками?

Генеративные ИИ-модели часто не способны определить, является ли изображение или видео синтетическим, что затрудняет определение подлинности контента. В данном случае Ньютону помог Google Gemini, который смог подтвердить, что изображение было создано с помощью ИИ, благодаря встроенному в Google SynthID водяному знаку, который выдерживает обрезку, сжатие, фильтрацию и другие попытки изменения изображения.

Макс Сперо, основатель Pangram Labs — компании-разработчика инструмента для обнаружения сгенерированного ИИ текста — ежедневно сталкивается с проблемой различения реального и поддельного контента.

«Количество «ИИ-мусора» в интернете значительно увеличилось, и я думаю, что отчасти это связано с ростом использования больших языковых моделей (LLM), но есть и другие факторы, — рассказал Сперо. — Существуют компании с миллионными доходами, которые могут позволить себе «органическое вовлечение» на Reddit. На самом деле это означает попытку завируситься с помощью постов, сгенерированных ИИ, которые упоминают их бренд».

Инструменты, такие как Pangram, помогают определить, был ли текст сгенерирован ИИ. Однако, особенно когда речь идет о мультимедийном контенте, эти инструменты не всегда надежны. И даже если синтетический пост будет разоблачен, он, возможно, уже успеет стать вирусным. Таким образом, пока нам остается просматривать социальные сети, как детективы, постоянно сомневаясь в подлинности увиденного.

Показательный пример: Когда я сказал редактору, что хочу написать о «вирусном ИИ-фейке про доставку еды, который был на Reddit на этих выходных», она подумала, что я говорю о чем-то другом. Да – на тех выходных был не один «вирусный ИИ-фейк про доставку еды на Reddit». Это подчеркивает масштаб проблемы.

Искусственный интеллект: инструмент роста, а не обмана

Искусственный интеллект — это мощный инструмент, способный трансформировать бизнес, автоматизировать рутину, увеличить прибыль и открыть новые возможности. Однако его применение требует этичности, прозрачности и ответственного подхода. Для предпринимателя критически важно не только внедрять ИИ в свои процессы, но и развивать критическое мышление, чтобы умело использовать преимущества технологии и избегать её подводных камней.

В FutureBots мы верим в созидательный потенциал ИИ и помогаем бизнесу использовать его для реального роста и эффективности. Мы разрабатываем интеллектуальные решения, которые не просто автоматизируют, но и усиливают вашу команду, освобождая сотрудников от рутины и позволяя сосредоточиться на стратегических задачах.

🚀 Получите бесплатный аудит от ИИ прямо сейчас в нашем Telegram-боте: @futurebotsru_bot