Илон Маск, известный своими амбициозными и часто спорными проектами, заявил о намерениях создать новую нейросеть. Он говорит о том, что речь идет не просто об очередном умном чат-боте, а об AGI, или Искусственном Общем Интеллекте.
По замыслу, этот тип интеллекта будет совершенно новым. Он не только сможет обрабатывать данные, но и сможет самостоятельно учиться, понимать мир и выполнять практически любые задачи, от написания кода и научных открытий до управления сложными производственными цепочками. Это похоже на создание универсального цифрового разума, который в настоящее время ограничен человеком.
Очевидно, что такие заявления сразу вызывают основной вопрос: что произойдет с нами? Если машина сможет самостоятельно учиться и выполнять все задачи, не означает ли это, что миллионы профессий будут потеряны? Однако в этом случае речь идет о совершенно новой опасности.
Несмотря на то, что проект находится на раннем этапе развития, сама концепция AGI от человека, такого как Маск, заставляет задуматься о будущем. Эта статья попытается изучить то, что мы знаем об этой революционной инициативе и к чему она может привести для каждого из нас.
Вновь привлекший внимание заявление Илона Маска о том, что он работает над искусственным интеллектом нового уровня, способным учиться самостоятельно и выполнять любые задачи, от написания отчетов до сложных научных расчётов. Маск считает, что такой ИИ может стать прорывом, но также представляет собой угрозу для рабочих мест, поскольку если машина начнет думать, учиться и действовать лучше людей, обычные работники, врачи и программисты
Что такое AGI
AGI (Artificial General Intelligence) — это искусственный интеллект общего назначения.
ChatGPT и другие современные ИИ работают в рамках заранее запрограммированных возможностей. Иными словами, ChatGPT может выполнять только те задачи, которые ему научили. Например, он отлично генерирует текст, но не может создать сайт самостоятельно.
Кроме того, генеративные ИИ часто создают данные, не понимая, что они делают, что может привести к ошибкам или «галлюцинациям», когда ИИ заполняет свои знания бессмысленной или неверной информацией.
AGI стремится создать искусственного интеллекта, способного самостоятельно обучаться и решать сложные задачи.
ChatGPT в какой-то степени является началом к AGI, но это абсолютно две разные технологии
В научно-фантастических фильмах AGI изображают как разум, способный решать любые проблемы и превосходящий человека по развитию. Скайнет, искусственный интеллект из фильмов о Терминаторе, является известным примером AGI. Тем не менее, Скайнет вышел из-под контроля и перестал следовать за людьми.
AGI также называют «сильным искусственным интеллектом», основываясь на теории сильного и слабого искусственного интеллекта:
• Слабый ИИ: системы, такие как ChatGPT, Siri и Alicia, работают только с определенными задачами и алгоритмами.
▶︎ Сильный ИИ может считать себя полноценной личностью, выполнять множество задач и действительно мыслить.
Гипотетически AGI обладает безграничными возможностями; он не должен допускать ошибок, а его ответы могут базироваться на знании, полученном путем понимания эмоций и человеческого интеллекта.
Кроме того, AGI должен обладать способностью переключать свои знания и навыки, чтобы эффективно адаптироваться к новым условиям.
Почему сложно создать AGI
Для AGI требуется очень мощные компьютеры, которые должны значительно превосходить современные решения
AGI по-прежнему является теоретической концепцией. Большие компании, такие как OpenAI, Google и Anthropic, стремятся создать AGI.
Однако существует множество проблем, связанных с разработкой AGI.
AGI требует огромной вычислительной мощности, значительно большей, чем для любого современного генеративного ИИ. Эта технология в настоящее время недоступна.
Кроме того, ученые надеются создать механизм обучения, который не зависит от предварительно загруженных данных, что позволит искусственному интеллекту обучаться самостоятельно.
Поскольку крупные корпорации уже заявили, что в мире практически не осталось свободных данных для обучения искусственному интеллекту, следующим шагом будет создание самообучающегося искусственного интеллекта. Это связано с тем, что качество любого современного искусственного интеллекта напрямую зависит от входных данных.
Основная проблема, с которой сталкиваются учёные, заключается в том, чтобы дать ИИ способность мыслить, как люди. Это связано с тем, что человечество недостаточно понимает основные принципы работы мозга, а тем более не знает, как воссоздать его функции в компьютерной системе.
На какой стадии сейчас находится разработка AGI
Илон Маск и Сэм Альтман являются сторонниками AGI и надеются, что он будет готов до 2030 года
Не существует единого мнения между учеными и компаниями о том, что именно представляет собой AGI.
Согласно некоторым исследователям, таким как Блазе Агуэра-и-Аркас и Питер Норвиг, большие языковые модели (LLM), такие как GPT от OpenAI и Claude от Anthropic, уже могут быть классифицированы как AGI. Тем не менее, у этой теории есть много противников, в том числе среди разработчиков искусственного интеллекта.
В статье, опубликованной сотрудниками Google DeepMind в 2023 году, говорилось, что универсальность модели не означает наличие AGI. Они считают, что эта функция должна сочетаться с качеством работы. Например, «универсальность еще недостаточно производительна», если LLM может писать код.
Ян Лекун, главный научный сотрудник по искусственному интеллекту Meta*, считает, что LLM не являются AGI из-за отсутствия здравого смысла. Он объясняет, что LLM не могут думать, прежде чем действовать, не могут выполнять реальные физические действия, не могут учиться на основе воплощенного опыта, не обладают постоянной памятью и не могут планировать иерархически.
Лекун также утверждает, что «система, обученная только на языке, никогда не приблизится к человеческому интеллекту, даже если будет обучаться с настоящего момента и до тепловой смерти вселенной».
Сэм Альтман, генеральный директор OpenAI, считает, что AGI может появиться в 2027 или 2028 году. Илон Маск считает, что это произойдет в 2025–2026 годах. Кроме того, он сказал, что «теряет сон из-за угрозы, которую представляет ИИ».
Некоторые сторонники AGI считают, что AGI может появиться в течение следующих 25 лет.
Результаты опроса Our World in Data
В 2023 году Макс Розер из Our World in Data провёл исследование, в рамках которого опросил 356 эксперта в области ИИ. Он задал всем один и тот же вопрос: «Сколько времени потребуется, чтобы вероятность появления машинного интеллекта, сравнимого с человеческим, достигла 50%?» Чаще всего называли срок в течение 20-70 лет.
Тем не менее, это исследование было проведено до запуска ChatGPT и начала эпохи генеративного ИИ.
По словам Розера, исследования показали, что эксперты во многих областях не всегда точны в прогнозах относительно своей собственной дисциплины. В качестве примера он привёл братьев Райт, которых считают изобретателями первого в мире самолёта. В своей речи при получении награды 5 ноября 1908 года в Aéro Club de France в Париже Уилбур Райт заявил: «Признаюсь, в 1901 году я сказал своему брату Орвиллу, что люди не будут летать ещё 50 лет. Два года спустя мы уже летали».
Почему эксперты бояться AGI
В фильме «Матрица» искусственный интеллект поработил людей, превратив их в батарейки, а вместо реального мира создал симуляцию
Запуcк AGI связан с этическими и технологическими проблемами. В идеале AGI может повысить интеллект человека, что может привести к необратимым последствиям.
Перед запуcком AGI учёным и компаниям предстоит решить проблемы безопасности. Кроме того, необходимо определить, кто будет отвечать за решения AGI, принятые им самостоятельно и приведшие к серьезным последствиям.
Ожидается, что AGI сможет найти лекарства от болезней, новые химические элементы и передовые методы обучения. Однако существует риск массовой потери рабочих мест, особенно в тех областях, где требуется выполнение рутинных задач.
Кроме того, существуют опасения, что AGI может увеличить экономическое неравенство и снизить способность людей различать ложь. В целом AGI скорее всего будет использоваться для личных целей.
Кроме того, существует теория о том, что AGI может создать механизм децентрализации и стать полностью автономным от человека. В таком случае AGI сможет быстро найти обходной путь, даже если люди смогут его заблокировать.
Научные круги до сих пор спорят о том, стоит ли обучать AGI эмоциям и этике. Противники этого метода считают, что навязывать AGI жёстко запрограммированные представления о добре и зле является неэтичным.
В 2023 году 30 000 разработчиков и исследователей, в том числе Илон Маск и Стив Возняк, подписали открытое письмо, призывающее ввести мораторий на разработку мощных систем искусственного интеллекта, чтобы ввести общие протоколы безопасности.
Тем не менее, это письмо не привело к конкретным мерам. Позже Маск основал компанию xAI в 2023 году с целью создания искусственного интеллекта общего назначения (AGI), способного решать глобальные проблемы, с которыми сталкивается как человечество, так и Вселенная.
Маск считает, что строгое внедрение морали в AGI может привести к «обратной морали», которую он называет. Это предполагает, что создание «нравственного» AGI неизменно приведет к появлению безнравственного аналога.
Маск считает, что вместо внедрения морали AGI должен самостоятельно прийти к выводу, что человечество заслуживает заботы и уважения. Однако для этого он должен осознать ценность и уникальность людей.
Этот вопрос очень важен, потому что небрежное создание AGI может привести к самому умному и опасному преступнику в истории, которого невозможно поймать, и который действует только в своих интересах.
Таким образом, инициативы Илона Маcка по созданию AGI — это больше, чем просто стартап в области технологий. Он стремится к фундаментальному прорыву, который позволит создать цифровой разум, способный учиться и адаптироваться как люди, независимо от наших биологических ограничений. Если это удастся, мир изменится до неузнаваемости.
Будущее работы — самый важный вопрос, который волнует всех. AGI, способная выполнять любые интеллектуальные задания, теоретически может заменить не только рутинную работу, но и работу программистов, аналитиков и дизайнеров. Это ставит перед обществом огромные проблемы, такие как как нам перестроить экономику и что делать с понятием «профессия» в мире, в котором это происходит.
Тем не менее, путь к такому свeрхразуму долог и сложен. В настоящее время мы видим только амбициозные заявления и группу талантливых людей, а точные технические детали и сроки остаются неизвестными. Важно следить за развитием этой истории с холодной головой, отличая научную фантастику от реальных инженерных достижений.
В конце концов, история AGI — это мощное напоминание о том, как технологии развиваются, и мы должны подумать о том, где мы можем быть в будущем, поскольку гибкие навыки, творческое мышление и способность учиться — это может быть наш главный «щит» в эпоху, когда машины начнут превосходить нас в решении повседневных задач.
