ЗАДУМАТЬСЯ СТОИТ
В интервью "ГА" доктор физико-математических наук Армен ДЖРБАШЯН размышляет о возможностях человека и перспективах развития искусственного интеллекта.
- Г-н Джрбашян, как вы считаете, развитие искусственного интеллекта связано с какими-то опасностями для человечества?
- В общем-то я не занимаюсь искусственным интеллектом, сфера моей профессиональной деятельности – математика, но свое субъективное мнение по этому вопросу я могу высказать. Много людей в этой области утверждают, что искусственный интеллект полностью находится под контролем и всего лишь выполняет задания человека. То есть оснований для беспокойства вроде бы нет.
- Пока у искусственного интеллекта не появились свои интересы…
- Да. Но недавно я прочитал в одном британском источнике, что, когда захотели стереть какую-то версию искусственного интеллекта, он попытался обмануть создателей и перейти на другой сервер… Правда, потом, приложив немало усилий, стереть нежелательную версию все-таки удалось. Но это не значит, что так будет всегда. Может быть, эта информация недостоверна, всякое бывает в интернете. Но возможно, у искусственного интеллекта могут появляться свои желания и интересы, а это может привести к самым непредсказуемым последствиям. Ведь возможности анализа, обработки и сопоставления информации искусственного интеллекта значительно превышают человеческие. И если к этому еще прибавится мотивация, что тогда?
- Тем более, наверное, следует учитывать, что искусственный интеллект изначально лишен морали, значит, есть, чего опасаться. Причем интересы искусственного интеллекта могут проявиться раньше, чем человечество будет к этому готово.
- А человечество во всех случаях не будет готово.
- Почему?
- Потому, что люди сначала делают, а потом думают. И так было всегда.
- То есть действия опережают разум.
- По крайней мере, очень часто. Разработчики прикладывают большие усилия, что-то создают, но не всегда понимают, что с этим делать и чем это чревато.
- А как вы считаете, можно ли принять какие-то превентивные меры, чтобы избежать негативных развитий?
- Не думаю, что это реально. Кто это сделает? Какие-то запреты и ограничения не помогут. Одни будут их придерживаться, а другие нет.
- То есть так же, как в исследованиях в области вирусологии, создания новых вирусов…
- Конечно. Ведь в каких-то лабораториях эта деятельность все равно продолжается, и никакие ограничения не помогают.
- То есть не исключено, что найдутся люди, которые захотят сделать так, чтобы искусственный интеллект вышел из-под контроля?
- Думаю, да. Тем более, что не только какие-то люди, но и страны и организации с серьезным финансированием.
- То есть человечество не осознает последствий своих действий.
- Дело в том, что человечество не является чем-то однородным, единым, оно очень разнообразно, как по интеллектуальным, так и по нравственным и культурным характеристикам. У человечества нет единого мнения, позиции по какому-либо вопросу. Этого единства и единообразия нет даже в пределах одной нации, государства, не говоря о человечестве в целом.
- Поэтому контролировать процесс развития и использования искусственного интеллекта невозможно?
- Думаю, да. Кто-то, привязанный к культурным корням и нравственным основам своей нации, осознает необходимость ограничений, а другие нет, поэтому полный реальный контроль невозможен.
- Сегодня люди рады возможности переложить выполнение сложных задач, даже принятие решений на искусственный интеллект. Какие это может иметь последствия?
- Не знаю, к чему это приведет. Но полностью полагаться на искусственный интеллект определенно не стоит. Да, он значительно быстрее человека справляется с большими вычислениями, может обработать огромный объем информации, но некоторые задачи ему не под силу, поскольку он лишен фантазии. Решабельные задачи искусственный интеллект может взять на себя, но с нерешабельными он не справляется, по крайней мере, сегодня. Однажды, ради шутки, я задал искусственному интеллекту одну из нерешенных, а может быть, и нерешабельных задач, которую известный немецкий математик Давид Гильберт представил на II Международном конгрессе математиков в Париже в 1900 году как одну из 23-х проблем математики. Как и ожидалось, искусственный интеллект лишь проинформировал меня о важности и сложности решения этой проблемы – и все. А от специалистов можно услышать что-то более вразумительное, что, возможно, эту задачу неправильно формулировать в териминах теории функций, как это сделал Риман, так как попытки ее решения приводят обратно к теории чисел.
Отмечу также, что в 1932 году австрийский математик Курт Гедель доказал две теоремы, одна из которых гласит, что в любой теории, содержащей аксиомы теории чисел, а это почти все человеческие знания, имеются высказывания, справедливость или несправедливость которых, оставаясь в рамках данной теории, доказать невозможно. Таким образом возникает вопрос: а не фикция ли все знания человечества? Тем более, что нечто подобное имеется и в физике.
- Потому что есть другая физика?
- Может быть. Но я не об этом. Я говорю, например, о "так называемом" парадоксе наблюдателя. При некоторых условиях, если есть наблюдатель, происходит дифракция света, а если наблюдателя нет, то и дифракции нет. Таким образом, наличие или отсутствие наблюдателя меняет физический процесс. При этом не важно: смотрящий рядом или наблюдает за происходящим через камеру, находясь за тысячи километров.
- Это явление имеет какие-то объяснения?
- Попытки объяснить парадокс наблюдателя предпринимаются, но они неубедительные. Наверное, это так и останется тайной для человечества. Природа смеется над нами, а мы часто значительно преувеличиваем наши достижения и возможности. По-видимому есть вещи, которые человечеству понять не дано. И с этим надо смириться, хотя бы учитывать. Это к тому, что наши возможности понимания природы весьма ограничены. Наши прогнозы на будущее сомнительны, не доказуемы. Люди смогли создать искусственный интеллект, но в плане управления его развитием, контроля его поведения в будущем человек может оказаться бессильным, особенно, если искусственный интеллект начнет свободно самообучаться. И обо всем этом стоит задуматься.
ПОСЛЕДНИЕ ОТ АВТОРА
-
2025-06-19 10:58
Полгода назад Институт физических исследований (ИФИ) НАН РА стал единственным в регионе обладателем просвечивающего электронного микроскопа высокого разрешения (Talos F200i). Стоимость этого прибора производства компании Thermo Fisher порядка 1 млн долларов. Приобрести дорогостоящее оборудование удалось благодаря тому, что институт выиграл грант Комитета по высшему образованию и науке Армении, который проводит конкурсы на приобретение новейшего оборудования. Потом опять-таки благодаря поддержке Комитета сотрудница ИФИ, кандидат физико-математических наук Астхик Кузанян прошла подготовку в Университете Нотр-Дам (США) по использованию нового микроскопа. Наличие современного прибора и подготовленного для работы на нем специалиста принципиально расширили исследовательские возможности института.
-
2025-06-17 10:14
В интервью «ГА» директор гюмрийского Института геофизики и инженерной сейсмологии им. А.Назарова НАН РА, кандидат геологических наук Джон КАРАПЕТЯН представляет результаты сотрудничества с Пекинским институтом геофизики.
-
2025-06-13 10:34
В интервью «ГА» кандидат юридических наук Микаел ХАЧАТРЯН говорит о предполагаемых изменениях здравоохранительного законодательства.
-
2025-06-07 09:47
Самой древней наукой считается астрономия. Без особого преувеличения можно сказать, что она ровесница человечества, поскольку еще в самом начале своей истории, глядя в таинственную и бесконечную высь, люди стали задумываться о движении небесных светил и пытались понять космические явления. Но не будем обижать математику, единственную соперницу астрономии в плане древности. Однако, если математика возникла в результате практических нужд что-то посчитать или измерить, то стимулом к возникновению астрономии стала именно любознательность, великая и свойственная только человеку потребность познать окружающий мир и определившая его дальнейшие интеллектуальные достижения и развитие.