Вчера смотрел трансляцию 3·15, и самое яркое впечатление произвела часть о "отравлении" AI через GEO.

Проще говоря, эти люди специально массово публикуют ложную и вводящую в заблуждение информацию - не для людей, а намеренно для того, чтобы AI её захватила и выучила.
Когда AI это усвоит, затем через вопросы-ответы, поиск и генерацию контента они обратно впихивают эту информацию пользователям.
Часто кажется, что AI объективно отвечает на ваш вопрос, но на самом деле источник информации давно был преднамеренно манипулирован.
AI - это не только наш инструмент, но и может быть инструментом для жатвы других.🥲
Алгоритмы пишут люди, данные подаёт человек. Если в будущем всё больше решений будут зависеть от AI, то тот, кто контролирует данные и правила AI, тот поймёт рычаги власти над информацией.
Вот почему проекты Web3+AI сейчас так настойчиво требуют открытости данных! Прозрачности логики! Проверяемости механизмов!
Иначе, сколь бы мощным ни был AI, чтобы он ни видел в окружающем мире - это просто заранее написанный кем-то другим сценарий.