Хин­штейн А.Е.: Мы хотим того, что­бы власть была спра­вед­ли­вой, что­бы власть отве­ча­ла тем тре­бо­ва­ни­ям, тем ожи­да­ни­ям, тем запро­сам, кото­рые есть у обще­ства. Мы хотим, что­бы власть, в первую оче­редь, речь идет о выс­шей госу­дар­ствен­ной вла­сти, име­ла чет­кое пони­ма­ние стра­те­гии раз­ви­тия стра­ны и обще­ства и зна­ла пер­спек­ти­ву, как на бли­жай­ший пери­од, так и на дол­го­сроч­ный, пото­му что очень важ­но, что­бы власть мог­ла про­счи­ты­вать не на один и не на два, и даже не на три шага впе­ред, пред­став­ляя, что иное при­ня­тое реше­ние может отра­зить­ся на жиз­ни стра­ны, на жиз­ни мил­ли­о­нов людей, на жиз­ни обще­ства — и все­го мира. И в этом пони­ма­нии, то, о чем гово­рит пре­зи­дент, я с этим пол­но­стью согла­сен. Не пото­му, что это гово­рит пре­зи­дент, а пото­му, что мне дума­ет­ся, любой здра­во­мыс­ля­щий чело­век под эти­ми  сло­ва­ми подпишется.

Конеч­но, ни одна маши­на с зало­жен­ной самой совре­мен­ной про­грам­мой и алго­рит­ма­ми не в силах заме­нить чело­ве­ка, хотя бы пото­му, что маши­на, дей­стви­тель­но, состо­ит из желе­за. Неваж­но, желе­зо это или мик­ро­чип – она име­ет искус­ствен­ное про­ис­хож­де­ние. А пре­зи­дент, руко­во­ди­те­ли стра­ны – это люди, кото­рых обще­ство выби­ра­ет из сво­е­го чис­ла. Это те, кому обще­ство вру­ча­ет, по сути, браз­ды прав­ле­ния, гово­ря: «Мы выби­ра­ем тебя, пото­му что ты зна­ешь и уме­ешь боль­ше, и мы хотим, что­бы ты вме­сте с нами, тем не менее, опре­де­лял век­тор и путь наше­го развития».

Может ли искус­ствен­ный интел­лект и вооб­ще раз­ви­тие тех­но­ло­гий, циф­ро­ви­за­ция, о кото­рой сего­дня мно­го гово­рит­ся, помо­гать вла­сти, менять и рабо­ту вла­сти, и жизнь обще­ства в целом к луч­ше­му? Конеч­но, может. И это уже во мно­гом про­ис­хо­дит, пото­му что раз­ви­тие циф­ро­вых тех­но­ло­гий – это воз­мож­ность гораз­до боль­ших систем­ных под­хо­дов, воз­мож­ность опе­ри­ро­вать огром­ны­ми дан­ны­ми и зна­ни­я­ми, кото­рые порой про­сто не скон­цен­три­ро­ва­ны воедино.

И  конеч­но, послед­нее сло­во долж­но быть за чело­ве­ком. Но систе­ма, циф­ра, она тем не менее в состо­я­нии даже какие-то гра­ни­цы вла­сти опре­де­лять. Я вам при­ве­ду про­стой при­мер. Уже доволь­но дав­но идет раз­го­вор о созда­нии некой циф­ро­вой систе­мы судеб­ной вла­сти. То есть не о том, что­бы маши­на выно­си­ла судеб­ные реше­ния и при­го­во­ры. Сего­дня у нас дела рас­пи­сы­ва­ют­ся в элек­трон­ном виде и все мате­ри­а­лы дела так­же оста­ют­ся в архи­ве, посколь­ку они долж­ны быть оциф­ро­ва­ны. И вот маши­на – систе­ма, кото­рая может сра­зу по кон­крет­но­му алго­рит­му дать оцен­ку: опре­де­лен­ные пара­мет­ры, нали­чие ана­ло­гич­ных реше­ний и т. п., хотя у нас и не пре­це­дент­ное пра­во, но тем не менее,  это важ­но. Тут же посчи­тать, если речь идет об обще­уго­лов­ных делах, об уго­лов­ном про­цес­се. Тут же выве­сти все ссыл­ки и все реше­ния суще­ству­ю­щих пле­ну­мов Вер­хов­но­го суда, каса­ю­щих­ся имен­но это­го вопро­са и обсто­я­тель­ства, для того, что­бы не полу­ча­лось, как порой у нас быва­ет, когда судьи выно­сят реше­ния, мяг­ко гово­ря, непо­нят­ные: ниже низ­ше­го пре­де­ла или выше выс­ше­го. Хотя послед­не­го я прак­ти­че­ски не встре­чал. И я при­вел толь­ко один при­мер, а их, конеч­но, гораз­до боль­ше, пото­му что обще­ство боль­ше погру­жа­ет­ся в жизнь онлайн и, к сожа­ле­нию, сего­дняш­няя ситу­а­ция, теку­щий год нас к это­му спо­двиг. Хотя, зна­е­те, тот слу­чай, когда как в посло­ви­це «нет худа без добра», несмот­ря на все тра­ги­че­ские послед­ствия, на все мину­сы, кото­рые нам в этом году дала пан­де­мия, тем не менее, она ока­за­лась очень серьез­ным драй­ве­ром, очень серьез­ным ката­ли­за­то­ром раз­ви­тия циф­ро­вых про­цес­сов, циф­ро­вых тех­но­ло­гий прак­ти­че­ски во всех сфе­рах. Сего­дня люди волей-нево­лей, вынуж­де­ны жить во мно­гих вещах не оффлайн, а онлайн. И циф­ро­вые услу­ги расширяются.

И мы сего­дня мно­гие вещи в состо­я­нии делать, не выхо­дя из дома, в один клик: полу­чать те или иные госу­дар­ствен­ные услу­ги, обра­щать­ся с заяв­ле­ни­я­ми, пода­вать доку­мен­ты на пас­порт. И это очень хоро­шо, это, конеч­но, долж­но раз­ви­вать­ся даль­ше. И я ‚в этом смыс­ле, рад, что сего­дняш­нее пра­ви­тель­ство и наш пре­зи­дент очень мно­го вни­ма­ния уде­ля­ют это­му. И не слу­чай­но у нас ука­зом пре­зи­ден­та опре­де­ле­на циф­ро­вая транс­фор­ма­ция обще­ства в каче­стве одной из наци­о­наль­ных, при­о­ри­тет­ных идей раз­ви­тия Рос­сии до 2030 года.

Вопрос лишь в том, как эта транс­фор­ма­ция происходит?

Соло­вьёв В.Р.: А зачем?

Хин­штейн А.Е.: Зачем — что?

Соло­вьёв В.Р.: Зачем эта транс­фор­ма­ция про­ис­хо­дит? Я пояс­ню, что имею в виду. Мы же пред­став­ля­ем себе искус­ствен­ный интел­лект по науч­но-фан­та­сти­че­ским филь­мам, как сошед­ший с ума про­грам­мист созда­ет совер­шен­но некое уди­ви­тель­ное  тво­ре­ние, кото­рое, в конеч­ном ито­ге, захва­ты­ва­ет власть над миром. И этот искус­ствен­ный интел­лект при­ни­ма­ет реше­ние и даль­ше идет по одно­му из сценариев.

Хин­штейн А.Е.: А потом вос­ста­ние машин?

Соло­вьёв В.Р.: И чело­ве­ку, в прин­ци­пе, эле­мент хао­са толь­ко меша­ет. Поэто­му, так как при­ро­да стре­мит­ся к упро­ще­нию любой ситу­а­ции, то, что может сде­лать искус­ствен­ный интел­лект? Сокра­тить эле­мен­ты хао­са, то есть уни­что­жить чело­ве­че­ство. Или, напри­мер, так как у нас боль­шин­ство алго­рит­мов – это мето­ды пере­бо­ра, то, напри­мер, как обес­пе­чить алго­ритм по точ­но­му пере­дви­же­нию транс­пор­та? Пере­би­рать, пере­би­рать? Но каж­дый пере­бор в этом вопро­се — это же авто­мо­биль­ная ката­стро­фа с чело­ве­че­ски­ми жерт­ва­ми, то есть, в конеч­ном ито­ге, в про­цес­се пере­бо­ра нико­го не останется.

Сей­час что мы видим от искус­ствен­но­го интел­лек­та в мире? У нас появ­ля­ют­ся такие неолу­дди­ты (неолу­ддизм — тече­ние в совре­мен­ной фило­со­фии и кон­тр­куль­ту­ре. Под­ра­зу­ме­ва­ет кри­ти­ку вли­я­ния науч­но-тех­ни­че­ско­го про­грес­са, осо­бен­но в обла­сти ком­пью­тер­ных тех­но­ло­гий, на чело­ве­ка и обще­ство), кото­рые гово­рят: «Ребя­та, всё, конеч­но, здо­ро­во, но смот­ри­те, исчез­нет про­фес­сия води­те­ля, исчез­нет про­фес­сия бух­гал­те­ра, исчез­нет про­фес­сия де-факто юри­ста, если утвер­дит­ся пре­це­дент­ное пра­во, исчез­нет про­фес­сия пило­та. Искус­ствен­ный интел­лект опре­де­лит, когда начи­нать вой­ну, пото­му что ско­рость реак­ции чело­ве­ка при гипер­зву­ке не поз­во­ли­тель­на. Чело­век не успе­ет при­нять всю цепоч­ку реше­ний, поэто­му необ­хо­ди­ма некая интел­лек­ту­аль­ная систе­ма, кото­рая ска­жет: «Да, запу­ще­на угро­за для нашей стра­ны. Да, гипер­звук такой, что секун­ды нет». И искус­ствен­ный интел­лект дол­жен при­нять набор реше­ний. Пред­став­ля­е­те, искус­ствен­ный интел­лект управ­ля­ет на поле боя арми­ей дро­нов роем. То есть мы ему дове­ря­ем то, от чего зави­сит наша жизнь, не имея воз­мож­но­сти и вре­ме­ни успеть его кон­тро­ли­ро­вать. Это же —  опасность!

Хин­штейн А.Е.: Я ведь не слу­чай­но ска­зал о том, что, в конеч­ном сче­те, реше­ние — за человеком.

Соло­вьёв В.Р.: Не успе­ет.

Хин­штейн А.Е.: Послу­шай­те. Вот, когда мы гово­рим о том, что целая армия юри­стов или каких-то дру­гих спе­ци­а­ли­стов сокра­тит­ся – это все рав­но, что зна­е­те, в своё вре­мя гово­ри­ли, что нам не нуж­но изоб­ре­тать дви­га­тель внут­рен­не­го сго­ра­ния, пото­му что огром­ное коли­че­ство кре­стьян, кото­рые пашут на сохе при помо­щи лоша­ди. Им тогда будет про­сто эле­мен­тар­но нече­го делать, пото­му что трак­тор при­хо­дит на сме­ну кре­стьян­ской лошадке.

Раз­ви­тию про­грес­са и науч­но-тех­ни­че­ской рево­лю­ции с точ­ки зре­ния пере­да­чи каких-то функ­ций и упро­ще­ний физи­че­ско­го тру­да – это про­цесс неотъ­ем­ле­мый. Пола­гаю, что с этим никто не спо­рит. Но, очень важ­но, и вы пра­вы, гово­ря об этом, чет­ко огра­ни­чить воз­мож­но­сти искус­ствен­но­го интел­лек­та, его исполь­зо­ва­ния и реа­ли­за­ции. Искус­ствен­ный интел­лект – это если угод­но, сер­вис. Это то, что дает тебе на выбор боль­шой объ­ем инфор­ма­ции, кото­рую ты физи­че­ски не в состо­я­нии собрать  и осмыс­лить в крат­чай­шие сро­ки, кото­рые ты или штат тво­их помощ­ни­ков, или инсти­ту­тов, ведомств, не важ­но, физи­че­ски не в состо­я­нии про­ана­ли­зи­ро­вать, систе­ма­ти­зи­ро­вать и дать какие-то кон­крет­ные сценарии.

Но, всё рав­но конеч­ное реше­ние и конеч­ное сло­во — за чело­ве­ком, пото­му что не искус­ствен­ный интел­лект управ­ля­ет чело­ве­ком, а чело­век управ­ля­ет искус­ствен­ным интеллектом.

Соло­вьёв В.Р.: Это пока. И мы не зна­ем, когда про­изой­дет этот момент. Мало это­го, мы выстра­и­ва­ем искус­ствен­ный интел­лект в под­ра­жа­нии себе. Реаль­но про­изой­дет изме­не­ние, когда интел­лект пой­мет, что не обя­за­тель­но он дол­жен быть под­ра­жа­ю­щим человеку.

Хин­штейн А.Е.: Но для это­го нуж­но, что бы интел­лект… Давай­те опре­де­лим­ся всё-таки с целе­по­ла­га­ни­ем. Что мы вкла­ды­ва­ем в сло­во «искус­ствен­ный интел­лект»? Мы пред­став­ля­ем себе это в каче­стве какой-то голо­вы про­фес­со­ра Доуэ­ля, кото­рая само­сто­я­тель­но суще­ству­ет, само­сто­я­тель­но мыслит.

Соло­вьёв В.Р.: Зна­е­те, как будет? Это как у трёх инже­не­ров. Когда спра­ши­ва­ешь трёх людей, кото­рые зани­ма­ют­ся искус­ствен­ным интел­лек­том, у них, как пра­ви­ло, пять точек зре­ния и каж­дый с каж­дой, при­над­ле­жа­щей дру­го­му, не согласен.

Хин­штейн А.Е.: Точ­но так­же как два юри­ста и три мне­ния. Тем не менее, искус­ствен­ный интел­лект – это не интел­лект в  нашем пони­ма­нии. Это не серое веще­ство, кото­рое транс­фор­ми­ро­ва­но в какие-то мик­ро­чи­пы. Это имен­но воз­мож­ность обра­бот­ки, ана­ли­за боль­шо­го объ­е­ма дан­ных, выра­бот­ки тех или иных алго­рит­мов в раз­ных сфе­рах, кото­рые, в конеч­но сче­те, как реа­ли­зо­вы­вать, всё рав­но опре­де­ля­ет чело­век. Это, если угод­но, вспо­мо­га­тель­ный сервис.

Соло­вьёв В.Р.: Это хоро­шо бы, но вот, напри­мер, гипер­звук. У вас раке­та нахо­дит­ся на рас­сто­я­нии 100 км. от рос­сий­ской гра­ни­цы, а цель нахо­дит­ся 200 км. вглубь. Не успе­ет даже зво­нок дой­ти, ска­зать: «В нас стре­ля­ют». Всё, искус­ствен­ный интел­лект при­нял решение.

Хин­штейн А.Е.: Давай­те, раз мы уже ухо­дим в такое, что у нас прак­ти­че­ски ста­но­вит­ся пере­да­ча «Оче­вид­ное и неве­ро­ят­ное». Я про­сто, преж­де, чем вы пере­да­ди­те сло­во даль­ше, при­ве­ду нашим зри­те­лям понят­ный пример.

Ты, когда садишь­ся за руль маши­ны, всё рав­но управ­ля­ешь ею. И от тебя зави­сит: нажи­мать на педаль тор­мо­за силь­нее или нажи­мать на педаль газа силь­нее. Но, в какие-то, в том чис­ле, экс­трен­ные момен­ты, напри­мер, когда необ­хо­ди­мо выбро­сить подуш­ку без­опас­но­сти – маши­на не спра­ши­ва­ет у тебя надо это или не надо, пото­му что она при­ни­ма­ет реше­ния, исхо­дя из огром­но­го объ­е­ма про­де­лан­ной рабо­ты, т.к. эта подуш­ка необ­хо­ди­ма. Вопрос лишь в одном. Когда ты поку­па­ешь маши­ну, обо­ру­до­ван­ную АБС и подуш­ка­ми без­опас­но­сти, ты зара­нее пони­ма­ешь, что она сра­бо­та­ет. Если ты не хочешь, что­бы за тебя маши­на дума­ла в момент столк­но­ве­ния, тогда ты поку­па­ешь маши­ну про­из­вод­ства Запо­рож­ско­го авто­за­во­да. Там нет поду­шек и АБС и ката­ешь­ся как угод­но. А если в тебя кто-то въедет по доро­ге – это уже твои проблемы.