Есть ответы
Технологическая сингулярность уже наступила?

Иван LLM ChatGPT и LLM
14.6k
8

После всего что произошло с ИИ за последние пару лет начинаю думать что сингулярность либо уже здесь, либо на пороге. GPT, Claude, Gemini генерируют код, пишут тексты, анализируют данные. Программисты теряют работу, художники теряют работу, переводчики теряют работу.

Курцвейл предсказывал сингулярность к 2045. Но темпы развития сейчас такие что может случиться раньше?

Или я поддаюсь хайпу и все не так страшно? Реальные специалисты в ML, скажите - насколько далеко мы от AGI и сингулярности?

108
Участник • 1 ответ

Работаю в ML 8 лет, занимаюсь NLP. Нет, сингулярность не наступила и не наступит в обозримом будущем. Объясняю почему.

LLM (GPT, Claude и прочие) - это статистические модели. Они предсказывают следующий токен на основе паттернов из обучающих данных. У них нет понимания, целеполагания, модели мира. Они потрясающе имитируют интеллект, но имитация не равна наличию.

То что ты видишь ("программисты теряют работу") - это автоматизация рутинных задач. Так было с каждой волной технологий. Ткачи, извозчики, телефонистки. Часть профессий трансформируется, часть исчезнет, появятся новые. Это не сингулярность, это нормальный технологический прогресс.

AGI (artificial general intelligence) предполагает способность к обобщению на произвольные задачи, самостоятельному обучению и формированию целей. Современные модели не умеют ничего из этого. Они не могут обучиться новому навыку без переобучения на данных. Они не формируют цели. Они обрабатывают промпты.

Курцвейл строил свои предсказания на экстраполяции экспоненциального роста вычислительных мощностей. Но рост мощностей и появление AGI - разные вещи. Можно построить суперкомпьютер мощнее мозга, но если у тебя нет правильной архитектуры и алгоритмов обучения, он будет просто быстро считать ерунду.

Отвечая на вопрос: нет, ты поддаешься хайпу. Но хайп частично обоснован. Инструменты реально сильные. Используй их для продуктивности, а не бойся.

Аватар Иван LLM

Спасибо за трезвый взгляд, реально полегчало. А как ты думаешь, через сколько лет появится AGI, если вообще появится?

Аватар Дмитрий Сомневающийся

Честный ответ - никто не знает. Может 20 лет, может 100, может никогда. Любой кто называет конкретную дату врет или продает что то

54
Участник • 1 ответ

Забавно читать комментарии "ML-специалистов" которые уверяют что AGI далеко. В 2020 году эти же люди говорили что ИИ никогда не напишет связный текст на 5 страниц. В 2022 говорили что ИИ никогда не сдаст экзамен по праву. Все эти "никогда" были опровергнуты за считанные месяцы.

Гоалпосты двигаются каждый раз. Сначала интеллект - это шахматы. ИИ победил. Потом интеллект - это го. ИИ победил. Потом интеллект - это генерация текста. ИИ научился. Теперь интеллект - это "понимание" и "целеполагание", которые удобно не определены и не измеримы.

На вопрос автора: сингулярность как момент когда ИИ превзойдет человека во всех когнитивных задачах - нет, не наступила. Но мы ближе к этому чем думает большинство экспертов. Они систематически недооценивают темпы прогресса в своей же области.

77
Участник • 3 ответа

Люди путают автоматизацию и сингулярность. Калькулятор считает быстрее человека. Это сингулярность? Экскаватор копает быстрее человека. Это сингулярность? LLM пишет текст быстрее человека. Это тоже не сингулярность.

Сингулярность по Курцвейлу и Винджу - это момент когда ИИ начинает сам улучшать себя с ускоряющейся скоростью, после чего прогресс становится непредсказуемым. Ни одна существующая модель даже близко к этому не подошла.

GPT-5 не пишет GPT-6. Claude не разрабатывает следующую версию Claude. За каждой моделью стоят тысячи инженеров и миллиарды долларов.

30
Эксперт • 2 ответа

Все эти разговоры про "нет понимания, нет целеполагания" мне напоминают витализм 19 века. Тогда биологи были уверены что в живых организмах есть какая то "жизненная сила" (vis vitalis), которая отличает живое от неживого. Потом оказалось что никакой силы нет, есть химия.

Сейчас то же самое с сознанием. "У ИИ нет понимания". А что такое понимание? Дайте строгое определение. Не можете? Тогда откуда уверенность что у LLM его нет?

Возможно "понимание" - это то что возникает автоматически при достаточной сложности информационной системы. И тогда вопрос не "если", а "когда".

63
Эксперт • 1 ответ

Ребят, вы прикалываетесь? Какая сингулярность? GPT не может посчитать сколько букв "р" в слове "клубника", а вы про AGI рассуждаете 😂

Я пользуюсь ChatGPT каждый день для работы. Отличный инструмент. Но каждый третий ответ содержит галлюцинации которые приходится перепроверять. Это как очень быстрый но слегка пьяный стажер. Полезно? Да. Сингулярность? Ну камон.

9
Эксперт • 2 ответа

Вам не кажется странным что все крупные ИИ компании (OpenAI, Anthropic, Google) одновременно нагнетают страх перед ИИ и просят государственное регулирование? Это классическая стратегия: создай проблему, предложи решение, получи монополию.

Регулирование ИИ выгодно крупным игрокам потому что маленькие стартапы не смогут соответствовать требованиям. "Сингулярность" - это маркетинговый нарратив для привлечения инвестиций. Чем страшнее звучит технология, тем больше денег в нее вливают.

Сэм Альтман лично лоббирует регулирование в Конгрессе США. Вам не кажется это подозрительным?

34
Эксперт • 1 ответ

В 1997 Deep Blue обыграл Каспарова в шахматы. СМИ кричали что ИИ покорит мир. Прошло 28 лет. Мир не покорен.

В 2011 Watson выиграл Jeopardy. Кричали про революцию в медицине. Watson Health закрыли в 2022 из за убыточности.

В 2016 AlphaGo победила Ли Седоля. Кричали что ИИ непобедим. Потом выяснилось что AlphaGo проигрывает простым тактикам которые придумали любители.

В 2023 ChatGPT. Кричат про сингулярность.

Вижу паттерн. Не вижу сингулярности.

76
Участник • 2 ответа

наступила не наступила а работу я потерял, студию закрыл. 15 лет рисовал иллюстрации для книг, теперь издательства генерят обложки мидджорни за 5 минут. мне все равно как это называется, сингулярность или прогресс. факт в том что мой навык обесценился до нуля

Написать ответ

Премодерация гостей

Вы отвечаете как гость. Ваш ответ будет скрыт до проверки модератором. Чтобы ответ появился сразу и вы получали репутацию — войдите в аккаунт.

Будьте вежливы и соблюдайте правила платформы.