Изучаю философию сознания и наткнулся на термины "сильный ИИ" и "слабый ИИ", а также "сильное" и "слабое" сознание. Это связанные понятия или разные?
Не могу понять в чем принципиальная разница между сильным и слабым сознанием и как это применяется к вопросу об искусственном интеллекте.
Может кто то объяснить на пальцах?
Тут два разных но связанных различения.
Сильный vs слабый ИИ (Searle, 1980)
Слабый ИИ: машина симулирует интеллект, но не обладает настоящим пониманием. Это инструмент для решения задач. Все современные нейросети - слабый ИИ. ChatGPT не понимает что пишет, он статистически предсказывает следующее слово.
Сильный ИИ: машина обладает настоящим сознанием, пониманием, интенциональностью. Не просто симулирует мышление, а реально мыслит. Пока не существует и неизвестно возможен ли в принципе.
"Трудная" vs "легкая" проблема сознания (Chalmers, 1995)
Это немного другое:
Возможно ты путаешь "сильное/слабое сознание" с этим. Термин "сильное сознание" не стандартный, но иногда используют в значении "полноценное феноменальное сознание" vs "зомби" (существо которое ведет себя как сознательное но внутри ничего не переживает).
Связь с ИИ: если трудная проблема не решена, мы не можем знать обладает ли сильный ИИ сознанием или просто очень убедительно его симулирует.
Попробую еще проще.
Слабый ИИ: калькулятор на стероидах. Делает сложные вычисления но не понимает что считает. GPT - это очень мощный автозаполнитель текста.
Сильный ИИ: если бы калькулятор вдруг задумался "блин, а зачем я вообще считаю? кто я?" - вот это был бы сильный ИИ.
Разница в наличии внутреннего мира, а не в мощности.
Почитай "Китайскую комнату" Серла. Там все объяснено через мысленный эксперимент. Человек сидит в комнате, получает иероглифы, по инструкции выдает ответы. Со стороны кажется что понимает китайский, но на самом деле просто следует правилам.
Современные LLM - это китайская комната размером с датацентр.
Никто не знает есть ли вообще "сильное" сознание или все мы просто очень сложные автоматы которые думают что у них есть внутренний мир. Может сознание - это иллюзия которую создает мозг.
Деннет например считает что никакого hard problem нет, это плохо сформулированный вопрос. Так что не факт что различие сильный/слабый вообще имеет смысл.
а я думал сильный ии это который задачи сложнее решает а слабый простые... получается не так?
Отлично, теперь понял откуда ноги растут. Значит "сильное сознание" - это не устоявшийся термин, а я видимо читал какой то вольный перевод. Спасибо!