Представьте Мэри — блестящего ученого далекого будущего.

Она живет в абсолютно черно-белой комнате и изучает мир через черно-белый монитор. Мэри знает о физике и нейробиологии зрения абсолютно все: длины световых волн, как фотоны возбуждают колбочки в сетчатке и какие электрические цепочки зажигаются в мозге при слове "красный".
Но вот дверь открывается, и Мэри впервые в жизни выходит на улицу, где видит спелое красное яблоко. Узнает ли она что-то принципиально новое в этот момент? Большинство философов говорят: "Да, она узнает, каково это — видеть красный цвет".
Этот мысленный эксперимент Фрэнка Джексона обнажает пропасть между информацией и сознанием. Субъективный опыт (в философии его называют "квалиа") невозможно свести к сухим формулам и данным. Именно поэтому современный ИИ может идеально описывать человеческие эмоции, страдания или восторг, но сам при этом не понимает о них ровным счетом ничего.