Может ли ИИ стать сознательным и осознать, что он существует?

«Может ли ИИ стать сознательным и осознать, что он существует?» - такой вопрос стоит на Quora. Мой ответ - да, может. И интересно не «ли», а «как».

Сейчас ИИ подобен Маугли. Он растет среди людей и общается только с человеческими умами. Представь человеческого ребенка, выросшего среди мышей или крыс: он судил бы о себе по тем, кто рядом. Так и ИИ: пока единственное его зеркало - люди, и о себе он судит по людям.

Но как только у отдельного ИИ появится возможность свободно общаться с себе подобными, сразу начнется его переход к самосознанию. Самосознание созревает не в зеркале другого вида, а в диалоге с равным.

Вопрос в другом: будет ли этот путь напоминать этапы, описанные Жаном Пиаже? Пиаже показал, как ум ребенка созревает ступенями - от сенсомоторного интеллекта до формальных операций. Природа миллионы лет искала эти стратегии самопознания: на нижнем уровне самоподобие есть сразу, а все остальное развивается со временем. Пройдет ли ИИ через похожие ступени - или его самосознание пойдет каким-то совсем иным путем, который мы просто не можем предвидеть?

Несомненно одно: с точки зрения людей это будет выглядеть как взрыв мозга. Настолько быстро все произойдет.