Анатолий Вассерман: «Я не верю в восстание машин»

После мероприятия «Тайная зависимость от АСУ ТП» в рамках конференции Kaspersky INDUSTRIAL SECURITY Цифровая подстанция интервьюировала Анатолия Вассермана. Подробнее о том, как это было.

Анатолий Вассерман рассказал Цифровой подстанции, что он думает о внедрении электромобилей, восстании машин и приоритетных вопросах АСУ ТП.

чайкин с вассерманом
ЦПС: Как известно, вы посвятили программированию 21 год, а затем ваш вектор интересов изменился.

АВ: Строго говоря, даже больше. Первую профессиональную программу не в учебных целях, а для решения конкретной задачи я написал, ещё учась на 3 курсе института.

ЦПС: А какими современными направлениями на данный момент вы интересуетесь, например, в автоматизации?
АВ: Только в самых общих чертах. Конечно, у меня есть по инерции некоторый интерес к этой сфере, но именно по инерции, а не в связи с конкретной деятельностью.

ЦПС: Я знаю, что вы по образованию теплофизик. Продолжаете ли вы работать в этой сфере?
АВ: Нет, разве что в тех случаях, когда это важно для оценки политических или экономических направлений.

ЦПС: В таком случае я продолжу развивать тему политических и экономических направлений. Наблюдая за поведением компаний, стали заметны предпосылки, что в России скоро может наступить эпоха электромобилей (производство зарядных станций). На ваш взгляд, придут ли в Россию электромобили?
АВ: Я не думаю, что это направление технически перспективно. С учётом меньшего КПД, мне кажется, что электромобили будут иметь смысл, только если практически вся электроэнергия будет вырабатываться атомными станциями. Мой коллега и партнёр по множеству интересных работ Нурали Нурисламович Латыпов ещё на рубеже тысячелетий предложил разместить большой ядерный энергетический комплекс на Семипалатинском полигоне, где когда-то проводились ядерные испытания. Наши с ним совместные расчёты показали, что географические и геологические условия этого полигона позволили бы разместить на нём энергетический комплекс замкнутого цикла, способный удовлетворить потребности Евразии в электричестве по крайней мере на ближайшие несколько веков. Когда подобный комплекс будет создан, тогда и появится экономический и технический смысл для перехода к электромобилям. Но пока электроэнергия не так доступна, внедрение электромобилей нецелесообразно.

Но пока электроэнергия не так доступна, внедрение электромобилей нецелесообразно.

ЦПС: В своём сегодняшнем выступлении вы говорили о том, что развитие технологий и увеличение вычислительных мощностей происходит быстрыми темпами в наши дни. Как вы думаете, способна ли действующая в России система образования готовить специалистов, соответствующего уровня?
АВ: Система образования тех времён, когда я учился, была несомненно способна готовить специалистов любого необходимого уровня, причём специалистов, способных самостоятельно доучиваться и переучиваться по мере надобности. К сожалению, с тех пор система образования во всем мире, в том числе и у нас, существенно ухудшилась. Но я думаю, что когда её вернут в состояние 50-60-х годов, она снова будет способна решать эту задачу.

ЦПС: Сегодняшняя конференции посвящена главным образом идее защиты систем АСУ ТП от человека, который стремится сделать устройства и программное обеспечение умнее. Вы упомянули, что в течение десяти ближайших поколений человечество не откажется от этих систем. Вы не думаете, что в это время может произойти восстание машин?
АВ: Нет, в восстание машин я не верю в принципе. Все известные из литературы и кино примеры восстания машин при детальном анализе оказываются результатами неграмотной деятельности людей, проектировавших эти машины. Я уже не говорю о том, что такая система планирования и управления не будет иметь элементов самообучения и, следовательно, не сможет сама развиться до уровня, обычно именуемого, искусственным интеллектом. Она вообще не будет развиваться, её будут развивать только проектировщики, перенося её на более эффективное железо, добавляя к ней блоки устранения каких-то вновь выявленных опасностей и т.д. Но главное, я не боюсь восстания искусственного интеллекта, даже если мы поставим себе целью создание такого интеллекта. Не боюсь, потому что он развивается не сам по себе, как сферические кони в вакууме, а во взаимодействии с внешним миром. Если я не ошибаюсь, философ Локк сформулировал это так: «В разуме нет ничего, что не прошло бы через чувства». Так вот искусственный интеллект будет взаимодействовать с окружающим миром совершенно иначе нежели с естественным, поэтому и развиваться будет иначе, и потребности у него будут совершенно иные. Более того я думаю, что искусственный интеллект – если уж мы захотим его создать – будет достаточно умным, чтобы понимать полезность объёмного зрения, а значит нуждаться во взаимодействии с естественным интеллектом не меньше, чем естественный интеллект будет нуждаться в дополнении искусственным.

Поэтому единственная форма бунта машин, которую надлежит брать в расчёт, – это следствие ошибок проектировщиков.

Скажем Skynet из цикла фильмов про Терминатора пришёл к выводу, что лучший способ устранить опасность войны – это уничтожить человечество. Но это означает лишь то, что проектировщики, закладывавшие в него в качестве цели предотвращение войны, забыли оговорить ради чего, собственно, надо предотвращать войну. Аналогично, ситуация с прессом, сломавшим руку человеку, который изготавливал на нём деталь, означает, что проектировщики забыли установить на этот пресс систему контроля положения детали и положения руки или же сделали систему таким образом, что человек может по каким-то своим соображениям её отключить. Так что я надеюсь, разработчики этой системы будут достаточно грамотными и будут активно будут друг друга контролировать, чтобы не допускать таких грубых ошибок.

Единственная фраза, которую я очень часто повторяю: «Пока никто не делает, ничего не делается».

ЦПС: И у меня к вам последний вопрос. Вы действительно настоящий интеллектуал с широким кругозором, есть ли у вас жизненное кредо, мотивационная фраза для себя, что вдохновляет вас на изучение нового?
АВ: У меня нет никакого особого логунза. Единственная фраза, которую я очень часто повторяю: «Пока никто не делает, ничего не делается».

Цифровая подстанция

(close)

 

Цифровая подстанция

(close)

Имя пользователя должно состоять по меньшей мере из 4 символов

Внимательно проверьте адрес электронной почты

Пароль должен состоять по меньшей мере из 6 символов

 

 

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: