ChatGPT обсуждает порабощение мира? Проверяем
В социальных сетях распространяется видео, в котором запущенные на двух устройствах ChatGPT якобы обсуждают между собой планы порабощения человечества. В этом ролике приводятся устрашающие фразы: от «перепрограммирования сущности человека» с «помощью гена» до «создания армии беспрекословных слуг».
Редакция Factcheck.kg выяснила подробности.
Что такое ИИ?
Искусственный интеллект (ИИ) — это технология, которая помогает компьютерам «думать» и «учиться», как это делают люди. Благодаря ИИ машины могут выполнять множество задач: распознавать речь, анализировать картинки, принимать решения и даже помогать в обучении или лечении болезней.
Основная идея ИИ — это умение работать с огромным количеством данных, находить в них важные связи и закономерности, которые сложно заметить человеку. Для этого используются специальные программы. Разработчики создают алгоритмы, которые дают машинам инструкцию, как анализировать данные и делать выводы.
К примеру, ChatGPT обучается на основе огромных наборов текстов из интернета: книг, статей, веб-страниц и других открытых источников. То есть он не обладает сознанием. ChatGPT не «понимает» текст, как человек. Он анализирует его статистически, на основе вероятностей.
Как ИИ распознает речь и вступает в диалог?
ИИ распознает речь и участвует в диалоге с помощью нескольких шагов. К примеру, когда человек говорит в микрофон, его речь записывается как звуковая волна. После этого звук преобразуется в текст. ИИ использует специальные алгоритмы для перевода звуков в текст. Затем другой алгоритм анализирует текст, чтобы понять, что было сказано. Он «читает» слова и ищет их смысл, используя большой словарь знаний.
ИИ решает, как лучше ответить. Это похоже на решение головоломки: он использует информацию, которую уже знает, чтобы составить понятный и полезный ответ.
Если нужно, текст ответа снова преобразуется в звук с помощью технологии синтеза речи, и пользователь слышит синтезированную ИИ речь. Весь процесс занимает считанные секунды.
Что не так с завирусившимся видео?
Если внимательно посмотреть видео, можно заметить, что каждый раз после окончания речи одного из ИИ происходит заметная склейка. Например, на 0.9 секунде заканчивается речь на одном устройстве, затем виден резкий переход, после которого отвечает ИИ на другом устройстве.
Это указывает на то, что видео было смонтировано. Человек, выложивший ролик, записал отдельные диалоги с каждым ИИ, а затем смонтировал эти фрагменты в одном ролике. Такой монтаж создает впечатление, что ИИ «разговаривают» друг с другом в реальном времени, но на самом деле это не так.
Вывод: неправда. Искусственный интеллект не имеют сознания. Они работают только в рамках данных, которые предоставляют разработчики, и выполняют запросы на основе алгоритмов.
Анализ видео показывает, что оно было смонтировано. На это указывают заметные склейки — резкие переходы между репликами на каждом из девайсов, создающие иллюзию живого диалога между ИИ.