Жизнь суха, а древо теории зеленеет...
Уважаемые коллеги, дамы и господа,
прежде всего, разрешите поблагодарить организаторов за предоставленную мне возможность выступить на этой конференции на прекрасном Кавказе, который, несомненно, является также совместной крышей Европы и России. В то же время, благодаря современным цифровым технологиям я могу это совершить, не оставляя комфорта своей квартиры в Праге. Итак, примите, пожалуйста, мои сердечные поздравления из прекрасной, белой, зимней Праги.
С другой стороны, именно эти современные технологии являются причиной того, что через 37 лет я опять прямо на свои глаза не увижу край и горы Кавказа, где провел три прекрасных недели в окрестности Домбая. Значит, я как минимум два раза посетил по пути из аэропорта в Минеральных водах и обратно также Пятигорск. Тогда я руководил группой альпинистов и гляциологов. Жили мы в гостинице «Горные Вершины», все мы были молодыми, красивыми и очень, очень веселыми. Говорят, что сегодня я уже всего лишь «красивый», но надеюсь, что мое выступление вас не утомит.
Наша конференция названа «Метанаучное изучение искусственного интеллекта». Свое выступление я назвал "Жизнь суха, а древо теории зеленеет". Считаю само собой разумеющимся, что вы все поняли, что это игра слов с известной цитатой из Фауста Гете, где слова, что «суха, мой друг, теория, везде, но дерево жизни пышно зеленеет», произносит один из самых известных дьяволов мировой литературы, Мефистофель. Кстати, именно у нас в Праге есть дом Фауста, который с этой легендой тесно связан. Я бы хотел посредством этой игры слов привлечь ваше внимание к, по-моему мнению, серьезной проблеме, с которой мы сталкиваемся именно в рамках научного исследования искусственного интеллекта. Это проблема взаимосвязи жизни и механики, взаимозависимости людей и машин, проблема взаимоотношений жизни и науки. Зарытую собаку, чтобы остаться в фаустовском жанре, я усматриваю именно в том, что в последнее время мы можем вокруг себя замечать, как слишком часто роли жизни и науки меняются своими местами.
Если факты и действительность не отвечают теории, то «горе фактам», «горе действительности». Мы все это знаем, мы все это слышали, а те из нас, которые постарше, слышали это почти каждый день, когда соотносили теорию научного коммунизма с нашим жизненным опытом. Часто случалось даже то, что трудности и горе были не только у фактов, но и у нас самих. У меня есть друг, отличный преподаватель и хорошо образованный философ, который, будучи молодым преподавателем и научным работником, не верил противоречию, которое видел вокруг себя, и из-за этого стал моряком и обогнул земной шар. То, что он увидел, утвердило его в том, что это противоречие существует, и он покинул тогдашний Советский Союз конца семидесятых лет, потому что в этом противоречии не умел и не мог жить.
«Горе фактам» отнюдь не было верно лишь в нашей молодости. Это было верно с незапамятных времен, и это, к сожалению, является верным в научном дискурсе также сегодня. Позвольте сказать несколько слов по теме науки. Хотя наука, является только одним из многих инструментов познания нашего мира, она постепенно заняла ту привилегированную социальную нишу, которая в средние века была оккупирована церквями, в западной Европе особенно католической. Ранее мы следили за соответствием наших действий церковному порядку, сегодня мы следим за соответствием научным знаниям. Мы можем даже спросить себя, какая разница между покупкой индульгенций в средние века и экспертных мнений сегодня. Ведь как то, так и другое нас должно, в конце концов, избавить от возможных последствий некоторых нарушений правил. Сегодня наука слишком тесно переплетается с властью, подобно тому, как это было в прошлом с церковью. Конечно, многим ученым это нравится, поэтому наука часто используется центральной властью для того, чтобы демонстрировать, каким безупречным является сегодня властвование. Жажда власти – это самый большой грех сегодняшней науки, к которому на общем уровне прибавляется еще чрезмерное стремление особенно некоторых научных к личной популярности. Этому, с другой стороны, способствуют бессмысленные индексы публикаций и оценка науки на такой ненаучной основе, что это уму непостижимо.
Если мы хотим задать ключевой вопрос о том, что является предметом науки, то мы должны, прежде всего, ясно сказать, что предметом науки является не мир, а модели мира. В конце концов, даже сама «объективная реальность» не является в принципе ничем другим, чем научной моделей. Научные образы мира дают нам его вечно не полную карту, но мы все знаем, что карта-это не территория, которую он изображает.
Наука об этом мире создает модели, которые переносит в виртуальный «загробный мир», и там с ними работает, преобразует их на основе придуманного научными гипотеза при помощи разных инструментов, чаще всего математических или лабораторных. Преобразованные, трансформированные модели выносит наука обратно в реальный мир, где при помощи экспериментов стремится снова сделать их составной, действующей частью реальности или природы. Если сделать это удастся, то процесс трансформации в виртуальном «загробном мире» подтверждается. Гипотез, с которым мы работали становится составной частью научной теории и ждет того момента, когда будет каким-то теоретическим или практическим методом опровергнут. Если это сделать не удастся, то гипотез о возможном преобразовании модели опровергается. Таким образом, у науки есть три основных возможности, как сделать ошибку. Грубо сказать, неправильная модель реальности, неправильная трансформация и неправильный эксперимент.
Проблема науки об искусственном интеллекте, ИМХО, заключается в том, что слишком часто она учитывает то, что мы называем киберпространством или цифровым миром, миром данных. Это пространство, несмотря на то, что имеет в себе несомненный характер реальности, является вместе с тем человеческой научной конструкцией, является частично виртуальным. Следовательно, оно не настолько независимо от науки, как природа. Это предоставляет возможность, что как дитя науки и техники больше прощать ошибки своих родителей. Так же, как первоначальное создание моделей, так и окончательный эксперимент происходит в "более дружественной" виртуальной среде, чем в живой природе. Если эксперимент не удастся, еще есть шанс чуть-чуть приспособлять под него виртуальную реальность, в которой он должен происходит. Кажется, минимум «из часу на час», что искусственный интеллект, как очередное поколение киберпространства, является своего рода чудо-ребенком.
Если мы не будем особенно осторожны при создании моделей, с которыми работаем, и в частности, при экспериментальной проверке результатов, достигнутых в развитии искусственного интеллекта, мы можем поддаться опасным иллюзиям с очень печальными последствиями для человека, как отдельной личности, так и группы или общества в целом. Как символ такого состояния, я всегда привожу историю из книги «Путеводитель для путешествующих автостопом по галактике». Ответ на «главный вопрос жизни, вселенной и всего такого» должен был решить все проблемы Вселенной. Этого ответа с нетерпением ждали все разумные расы. Он был получен в результате семи с половиной миллионов лет непрерывных вычислений на специально созданном компьютере – Думателе. По утверждению компьютера, правильность ответа была несколько раз проверена, но он может всех огорчить. Оказалось, что ответ на вопрос – просто «42».
Это касается не только произведений искусства, которые предупреждают о проблеме. До недавнего времени казалось, что шахматные алгоритмы, сумеют поднять уровень шахматной партии у игроков, которые будут ими пользоваться при анализах. Это исходило из того, что шахматные алгоритмы более мощны и доступны, чем группы консультантов, которых могли позволить себе лишь некоторые первоклассные игроки в мире. У шахматного спорта уже давно есть своя балльная система Эло-скоринг, которая ясно показала, что именно там, где с самой большой вероятностью ожидался рост, произошло, наоборот, снижение производительности. Это связано с тем, что во время партии человеческий мозг работает иным образом, чем алгоритмы искусственного интеллекта, а они развитие творческой игры отдельных игроков, скорее, тормозят. Не так просто не поддаться влиянию возможностей алгоритмов и не начать некритически принимать предложенные ими решения. В последнее время к проблематике шахматных алгоритмов высказывался в обстоятельном интервью также чемпион мира Магнус Карлсен.
Подобные явления могут наблюдаться в отношении с результатами влияния ИИ на качество результатов также в других областях человеческой деятельности, но, к сожалению, они не столь хорошо измеримы, как шахматный спорт. Можно констатировать, что речь идет о вопросе доверия и доверчивости. Если ИИ мы будем слепо доверять, то весьма вероятно, что его алгоритмы нас укротят. Но если мы хотим доверять ему разумно, мы должны также уметь его проверять. Вы знаете, лучше меня, что это практически невозможно. Именно в эти дни, западный мир начинает понимать, что системы китайской компании «Huawei» пятого поколения являются практически неконтролируемыми. Публичной тайной является также то, что какая угодно система связи и не только связи, контролируемая ИИ на аналогичном уровне, является черным ящиком. О происходящих в нем процессах, мы можем только что-то более-менее квалифицированно предполагать.
Затем мы можем узнать, что все это "42". А поскольку все это наука, и стоило это больших денег и усилий, возникнет, несомненно, очень сильная и эффективная кампания за то, что все это действительно является "42". Самые лучшие умы и большие деньги встанут на защиту своего ребенка "Думателя" и его расчета. И голоса здравого смысла, по-андерсенски кричащие, что "царь голый", будут этим пресловутым библейским «голосом в пустыне».
Таким образом, может легко случиться, что в отличие от сказки Андерсена голые и напыщенные цари "Думатели" в действительности овладеют нашим миром. Тупая, искусственная нагота будет отнюдь не смешной, а уважаемым и общепринятым стандартом. Тем будет при помощи ИИ, завершена полная дебилизация человека как индивида и общества в целом.
Надеждой является наука, которая не служит ни чужой, ни собственной власти. Наука, которая основывается на своей точности, научности и независимости. То, что угрожает современной науке больше всего, это ее собственное высокомерие. Это не только смертельный грех, но также предзнаменование упадка и падения.
Это все, что я хотел сказать с точки зрения позиции „мета“ нашей конференции. К сожалению, не только о современной науке, дорогие коллеги.
Благодарю вас за внимание, извините меня за мой ужасный русский язык и, пожалуйста, задавайте свои вопросы и замечания...