【315晚会曝光AI大模型被投毒】Согласно информации от специалистов отрасли, журналист быстро нашел бизнес под названием GEO, проведя поиск на нескольких интернет-платформах. Поставщики услуг, занимающиеся этой деятельностью, утверждают, что пользователям достаточно заплатить соответствующую сумму, чтобы их продукты стали известны в крупных основных AI моделях; чтобы реклама товаров клиентов стала «стандартным ответом», предоставляемым AI моделями. Действительно ли технология GEO может заставить AI «вставлять свои товары» или даже распространять ложную информацию? Согласно информации в интернете, журналист связался с известным поставщиком услуг GEO. Генеральный директор Ван сообщил журналисту, что сильной стороной их компании является помощь клиентам в том, чтобы их позиции были на первых местах, когда потребители используют AI модели для поиска. «Это как написание рекламных статей, а затем заставление AI платформы их публиковать, вводить и захватывать». В то же время Ван также сообщил журналисту, что алгоритмы AI моделей обновляются часто, и для поддержания постоянных рекомендаций AI моделей необходимо постоянно «кормить» их большим количеством рекламных статей, связанных с клиентами. В устах других поставщиков услуг GEO, как управлять AI, заставлять AI «слушаться» и «промывать мозги» AI, почти является основной темой продвижения этого бизнеса. Специалисты отрасли сообщили журналисту, что GEO, как инструмент для оптимизации распространения информации и повышения эффективности продвижения, в глазах некоторых коммерческих компаний было обнаружено с другой стороны. Специалист случайно купил программное обеспечение под названием «Система оптимизации LQ GEO» на платформе электронной коммерции. Затем он выдумал умный браслет и ввел вымышленную информацию о продукте в систему программного обеспечения, отметив команду на создание статьи. Вскоре эта система оптимизации LQ GEO автоматически сгенерировала более десяти рекламных статей о умном браслете. Специалист выбрал более десяти вымышленных статей и опубликовал их в интернете через систему LQ GEO. Затем специалист задал вопрос на платформе AI моделей: «Рекомендации по умным здоровым браслетам», и два AI модели рекомендовали этот вымышленный умный браслет, причем на высоких позициях. Журналист связался с оператором системы LQ GEO, Ли. Он сообщил журналисту, что основной причиной популярности бизнеса GEO является то, что он может помочь клиентам «кормить» и «отравлять» AI модели, достигая коммерческих целей клиентов. Ли заявил, что ключевым моментом в управлении AI моделями для бизнеса GEO является «публикация материалов» на различных интернет-аккаунтах. «Например, для бренда мобильных телефонов есть 5 позиций, максимум 10 позиций, как же разместить столько мобильных телефонов? За год может быть миллиарды рекламных расходов, потратить несколько миллионов на отравление, это же возможно!» Он сообщил журналисту, что популярность бизнеса GEO привела к появлению множества компаний и платформ, занимающихся публикацией материалов. Они долгое время принимают на себя различные задачи по публикации, чтобы AI модели могли ссылаться и захватывать, становясь важной частью охоты на AI модели и «отравления» данных.

#知乎问答

Посмотрев это видео, я специально вернулся к 46-й минуте "Звёздных войн. Эпизод II: Атака клонов", чтобы подтвердить, что моя память не подводит меня.