Хотя я до сих пор так и не выкроил времени вникнуть в то, на каких принципах строится современный ИИ, я почему-то заранее предвижу, что основные его "узкие места" известны мне заранее, а рriоri.
Дело в том, что я всю жизнь исследую и моделирую сознание и психические процессы у человека и чисто дедуктивно, то есть глядя "сверху", догадываюсь, какие методологические ошибки должны были совершить его создатели.
И главной из них мне представляется ПРИКЛАДНОЙ характер создаваемых ныне систем ИИ.
Все они конструируются для того, чтобы р е ш и т ь какие-либо задачи, а вот до того, чтобы начать с т а в и т ь задачи - им, мне кажется, невероятно далеко.
Как ни крути, а это именно человек, как особь биологическая, обречён взаимодействовать с окружающим миром непосредственно, и от результатов, успешности либо нет, этого взаимодействия, зависит его выживание и развитие, а вот ИИ такой заботой, как мне представляется, пока не обременён.
Критерий истинности наших познаний является практика - то есть результат, который мы получаем в результате своих действий, и если он таков, какой нам нужен, мы можем говорить об адекватности и точности наших представлений, на основе которых мы действовали.
Критерий тот самый, который всё шире входит в наш нынешний обиход под модным названием fееd-bасk ("обратная связь").
Этот самый fееd-bасk ударяет по нам и набивает шишки именно нам в случае применения нами неверных действий (на основе наших неверных представлений о мире) и вознаграждает, успешно, опять же нас. ИИ тут как-то остаётся в стороне и не при делах, "умывает руки" - ну прям как в старинном анекдоте про "внутренний голос".
Советовать-то горазды все, а ты попробуй поставить на кон свою собственную шкуру! (Имеется в виду: посмотрим, что запоёшь тогда!)
То есть "потусторонность" ИИ к нашим делам, невключённость его в процессы нашей жизни и, следовательно, его безответственность, пока, мне кажется, никто не отменял. И не ставил даже такой задачи.
Плюс, второе, я уверен, что создатели нынешних систем ИИ не учитывают фундаментальный принцип, сформулированный А. Эйнштейном, который я уже пару раз, в других своих заметках, упоминал: "Задача не может быть решена на том, уровне, на котором она возникла. Для решения её необходимо, чтобы мы вышли на более высокий уровень".
Заставьте-ка нынешний ИИ самостоятельно ориентироваться и выживать во внешнем мире - посмотрим, в какую беспомощность он впадёт почти мгновенно.
Ну да, разные там "куриосити" ползают по поверхности Марса, и они достаточно вооружены навыками, хорошо натасканы, чтобы справляться с этой задачей вроде бы успешно, но попробуйте представить, что на такую "механическую мышь" напал кот и банально перевернул её вверх ногами.
Нет, повернуться обратно "на ноги", эта "механическая мышь", вероятно, сумеет (если в её программу загружена такая возможность), но вот что делать с котом? Взаимодействие с котами - это совершенно иная сфера реальности, тут наша "мышь" беззащитна и первозданно, девственно тупа.
Поэтому я и решил для начала высказаться о том, о чём, кажется, пока что слыхом не слыхивал никакой ИИ.
Это об ЭМОЦИЯХ, то есть о том, что присуще всему живому в силу того, что это живое включено в наш мир реально, а не понарошку, как этот самый наш "великий советчик" ИИ.
Главное, что надо знать об эмоциях, я нашёл когда-то в книжках академика П.В. Симонова, который создал "потребностно-информационную теорию эмоций". Суть которой очень проста.
Цитирую:
"Потребностно-информационная теория эмоций Павла Васильевича Симонова предполагает, что эмоции связаны с потребностями и оценкой человеком вероятности их удовлетворения".
Тут всё просто: если субъект оценивает возможность удовлетворения своей потребности как достижимую, эмоция положительна. Если понимает, что его ресурсов для достижения той или иной цели недостаточно, то эмоции у него возникают отрицательные.
Удивительно, но ограниченность такой трактовки я начал критиковать сразу, как только с ней познакомился, более 30 лет назад, и даже высказался о ней в своём реферате, написанном перед поступлением в аспирантуру (но нет, не на психологическом факультете!), а сам её автор так эту ограниченность и не осознал (глянул сейчас в Википедию - он жил до 2002 года).
Ограниченность же здесь в том, что все эмоции человека рождаются и циркулируют, получается, как бы только в его уме - в подсчёте вероятностей достижения той или иной цели.
А как же быть с самой жизнью? Почему она вдруг оказывается выведена за скобки?
Нет, это сужение никак не оправданно! С нами многое случается такого, чего мы никак не ожидали, и здесь тоже бушуют эмоции, а вовсе не в одном только нашем, считающем свои шансы, мозгу.
Поэтому я, взяв в своё время на вооружение глубоко верное рациональное зерно теории П. В. Симонова, сразу же, для себя, расширил её понятия до более глобальных: "прирост" или "ущерб". Вот это - уже может случиться как в нашем сознании, так и в реальной жизни.
У человека ведь могут появиться внезапные, непредвиденные приобретения. А могут - и потери. Или внезапно возникшие опасности. И это тоже вызовет его эмоции - положительные или отрицательные. Если совсем кратко, то на шкале: нападай и хватай или спасайся, беги, - это выбор вектора наших действий.
Но зачем вообще нужны эмоции? Разве нельзя без них? Разве угроза, потеря или приобретение, как и открывшаяся перспектива что-то приобрести не достаточны сами по себе, с какой стати их надо обязательно эмоционально переживать?
Ответ я нашёл в неожиданном месте. И вот, сегодня, наконец дошли руки его отыскать в том источнике, который мне его подсказал. Правда, картинки, которую я ожидал найти в этом источнике, там почему-то не оказалось, да и сам факт дан в нём как-то мимоходом, без литавров и фанфар, в сопровождении которых я вспоминал о нём все эти годы, ну что ж, значит значение этого наблюдения оказалось таким фундаментальным только для меня...
Итак, Жан-Анри Фабр в своей книге "Жизнь насекомых" описывает очередного хищника - "пчелиного волка", филанта. Он (вернее она, то есть этот вид осы) охотится на пчёл, и, убив их, немедленно начинает высасывать из своей жертвы запасённый ею сироп. Хотя у него есть свой враг, тот, кто несёт гибель ему, - это богомол.
Но вот далее...
Цитирую:
"До чего может доводить филанта его любовь к пчелиному сиропу. показывает следующее наблюдение. ........... [Опускаю сами подробности расправы филанта над своей жертвой].
И вот в разгар этого ужасного пира я вижу, что филант со своей добычей схвачен богомолом. Бандит поймал бандита. Затем... Какой кошмар! Богомол уже держит филанта в зубьях своей складной пилы и жуёт его брюшко, а филант продолжает лизать мёд у своей пчелы. Даже сейчас он не может отказаться от столь лакомой пищи. Набросим покрывало на эти ужасы".
Жан Анри! Вы сами-то поняли, что написали в этих скромных двух абзацах?
Ведь вы показали, что бывает у субъектов, которые "не могут отказаться" от удовлетворения одного инстинкта, насыщения, в пользу более важного, - спасения своей жизни!
Ваш филант не смог п е р е к л ю ч и т ь с я, подчинить менее важную задачу, своего питания, выполнению более высокой - самосохранения.
(Ну вот прям как у Ивлина Во в "Упадке и разрушении": "Наш Пренди полчаса визжал, а рыжий черт пилил...")
Существует субординация потребностей субъекта, и если у него в данный момент актуализированы, активированы силы и навыки для удовлетворения одной, более низкой по иерархии, должен существовать и механизм для переключения его сил на другую задачу, если в этом возникла необходимость. А переключаться на спасение от опасности надо в жизни иногда мгновенно.
Вот для этого и нужны эмоции. Это РЕЛЕ, которое перенаправляет энергию и силы человека на ту задачу (в данном примере - спасение самого себя), которая в данный момент оказывается главной. Хотя она и возникла внезапно, как бы ниоткуда.
Чем лучше выработан и развит у особи механизм такого переключения, тем она гибче, адаптивней и лучше приспособлена к изменениям окружающей среды.
..........................
Если вспомнить здесь пословицу Сьерра-Леонских креолов: "Я не буду держать свой глаз открытым, если крыса начнёт грызть его", то уместно спросить: а что же в этом случае сделает ИИ, который не наделён эмоциональным аппаратом, не снабжён этим важным механизмом? Он - ...будет?