Вопрос, на который человечество пытается ответить тысячи лет. Если коротко: никто не знает.
Есть несколько основных позиций:
Материализм/физикализм - сознание это продукт работы мозга, сложная вычислительная система. Когда мы полностью поймем нейронные связи, поймем и сознание. Проблема: это не объясняет субъективный опыт (почему красный цвет ощущается именно так).
Дуализм (Декарт и последователи) - сознание и материя это разные субстанции. Есть тело и есть душа/разум. Проблема: как они тогда взаимодействуют?
Панпсихизм - сознание это фундаментальное свойство вселенной, как масса или заряд. Даже электроны обладают примитивной формой сознания. Звучит безумно, но в последние годы эта теория набирает популярность среди философов.
Иллюзионизм - сознания в привычном понимании не существует, это иллюзия, которую создает мозг.
Главная загадка называется "трудная проблема сознания" (hard problem of consciousness), сформулированная Дэвидом Чалмерсом. Почему вообще существует субъективный опыт? Почему мы не просто "зомби", которые обрабатывают информацию без внутреннего переживания?
По поводу ИИ - большинство исследователей считают, что современные нейросети сознанием не обладают. Они имитируют поведение, но внутри нет "кого-то", кто переживает.