Генеративные нейронные сети (ИИ) как политическое оружие

Особое внимание авторы уделяют вопросам ограничения использования ChatGPT в средствах массовой информации для генерации материалов от имени органов государственной власти (на примере The Wall Street Journal); делается акцент на том, что компании Microsoft, Amazon, Adobe и Getty "разрабатывают" технические инструменты для борьбы с дезинформацией в результате генерации материалов, созданных при помощи систем искусственного интеллекта.

Примечательно, что о таких вопросах общественность начала задумываться лишь после того, как увидела демонстрацию информационных возможностей генеративных нейронных сетей, способные осуществлять потоковое информационное воздействие с различными целями. Использование технологических систем, вычислительных мощностей для работы с большими данными позволяет не просто создавать эффективные инструменты пропагандисткой работы, но и средства манипуляции общественным сознанием путём контролируемого информационного искажения. Обученная генеративная нейронная сеть готова 24/7 предоставлять обоснованные данные о том или ином явлении с поправками, учитывающие политические мотивы лиц их применяющих. Поэтому, говоря о влиянии ИИ исключительно на выборы в США авторы немного лукавят о функциональных возможностях нейронных сетей, как средства автоматизированной политической пропаганды, особенно на фоне недавних новостей.

Более того, применение таких технологий не ограничивается лишь территорией Соединенных Штатов Америки. Свобода перемещения в информационном пространстве позволяет применять данные инструменты для политического и информационного воздействия в границах информационного пространства противника, что создает серьезную угрозу национальной информационной безопасности. И ведь такое применение ИИ явно будет реализовано на практике, учитывая огромные языковые базы, собранные технологическими компаниями США по всему миру.

Распространяемые информационные материалы с помощью генеративных нейронных сетей будут осуществлять постепенное воздействие на существующую информационную картину мира, которая формируется в пределах тех или иных национальных границ государств, и корректировать её исходя из найденных неточностей и противоречий, что безусловно приведет к формированию определенной прослойки населения, постепенно сомневающейся в даже в абсолютно честных и правдивых новостных и информационных материалах.

Противодействовать таким инструментам не получится, исключительно применяя человеческую силу. Необходимо разрабатывать как технические, так и правовые механизмы, создающие определенные преграды для работы генеративных нейронных сетей в национальных информационных зонах, в лучшем случае, для создания биполярного национального информационного пространства, а не однополярного под управлением противника.