Ашманов выступил

Перед президентом по Искиному. 

Вы­ступ­ле­ние И. Аш­ма­но­ва на СПЧ по про­бле­мам во­круг ИИ

Вла­ди­мирХ

10.12.025 со­сто­я­лось за­се­да­ние Со­ве­та по раз­ви­тию граж­дан­ско­го об­ще­ства и пра­вам че­ло­ве­ка. В част­но­сти, вы­сту­пил И. С. Аш­ма­нов по по­во­ду про­блем, свя­зан­ных с ИИ. В. В. Путин от­ре­а­ги­ро­вал.

В.Путин: Игорь Ста­ни­сла­во­вич Аш­ма­нов, по­жа­луй­ста.

И.Аш­ма­нов: Доб­рый вечер, Вла­ди­мир Вла­ди­ми­ро­вич!

Сна­ча­ла хочу вспом­нить наши раз­го­во­ры в про­шлом году про мо­шен­ни­ков.

Боль­шое Вам спа­си­бо за эти по­ру­че­ния, ко­то­рые Вы упо­мя­ну­ли, фев­раль­ские. Там дей­стви­тель­но на­ча­лись по­движ­ки. Го­во­рят, что па­да­ет ко­ли­че­ство звон­ков или, по край­ней мере, не рас­тёт, и при­нят, сей­час будет при­нят уже вто­рой пакет по­пра­вок. То есть на­ча­лось дви­же­ние в том числе у циф­ро­во­го биз­не­са.

В этот раз хо­те­лось бы по­го­во­рить о дру­гой про­бле­ме циф­ро­вой, а имен­но о таком га­ло­пи­ру­ю­щем, чрез­вы­чай­но быст­ром внед­ре­нии ис­кус­ствен­но­го ин­тел­лек­та в первую оче­редь в со­ци­аль­ную сферу и в го­су­дар­ствен­ное управ­ле­ние.

Я хотел бы вспом­нить Ваши слова недав­ние, когда на кон­фе­рен­ции по ис­кус­ствен­но­му ин­тел­лек­ту Вы ска­за­ли о том, что ведь если школь­ни­ки будут непре­рыв­но спра­ши­вать ис­кус­ствен­ный ин­тел­лект о своих за­да­ни­ях и так далее, они про­сто пе­ре­ста­нут ду­мать и про­сто не на­учат­ся это де­лать.

Это до­воль­но оче­вид­ные вещи. Ка­за­лось бы, это про­сто про­стой здра­вый смысл. Более того, это сей­час про­ис­хо­дит уже мас­со­во. То есть когда раз­го­ва­ри­ва­ешь с учи­те­ля­ми, с ро­ди­тель­ским со­об­ще­ством, они го­во­рят, что про­ис­хо­дит мас­со­вое, об­валь­ное вы­хо­ла­щи­ва­ние об­ра­зо­ва­ния: школь­ни­ки и сту­ден­ты по­лу­ча­ют за­да­ния, от­да­ют их ис­кус­ствен­но­му ин­тел­лек­ту и потом, не читая, сдают об­рат­но, и у них воз­ни­ка­ет идея, что, в общем, знать необя­за­тель­но, надо сдать. При этом ру­шит­ся ав­то­ри­тет пре­по­да­ва­те­ля, для них ав­то­ри­те­том сей­час ста­но­вит­ся ис­кус­ствен­ный ин­тел­лект. Они прямо го­во­рят пре­по­да­ва­те­лю: мне ИИ ска­зал вот так, а он умнее Вас, по­это­му Вы про­сто оши­ба­е­тесь.

И при этом, по­сколь­ку наши люди любят всё фир­мен­ное, они, как пра­ви­ло, ис­поль­зу­ют за­пад­ные си­сте­мы, при этом часто взло­ман­ные, то есть те, ко­то­рые не имеют огра­ни­че­ний по пло­хим и вред­ным со­ве­там. И такие со­ве­ты эти си­сте­мы дают, вплоть до по­буж­де­ния к су­и­ци­ду и так далее.

В вузе тоже по­дав­ля­ю­щее ко­ли­че­ство работ сей­час ге­не­ри­ру­ет­ся ав­то­ма­ти­че­ски. Пре­по­да­ва­те­ли вы­нуж­де­ны те­перь снова пе­рей­ти на опрос вжи­вую. Очень часто че­ло­век при­но­сит ди­плом и не может объ­яс­нить ос­нов­ные тер­ми­ны в этом ди­пло­ме. Пу­стые ра­бо­ты, ком­пи­ля­тив­ные. Про­фес­со­ра го­во­рят, что сей­час они не знают, кого они вы­пус­ка­ют, знают эти люди пред­мет или нет. А через год, два, три эти люди по­па­дут в про­мыш­лен­ность, в обо­рон­ку и так далее и будут там тоже, воз­мож­но, ими­ти­ро­вать ра­бо­ту.

Толь­ко что я был в храме Хри­ста Спа­си­те­ля, там вы­сту­пал Пат­ри­арх, и он очень много ска­зал, прямо минут 10 го­во­рил, имен­но об этих про­бле­мах с об­ра­зо­ва­ни­ем. Там была встре­ча с пре­по­да­ва­те­ля­ми, и, соб­ствен­но, Ми­нистр про­све­ще­ния Крав­цов вслед за ним по­вто­рил при­мер­но то же самое. Да, есть про­бле­ма, и дей­стви­тель­но про­ис­хо­дит нехо­ро­шая ме­та­мор­фо­за об­ра­зо­ва­ния, при­чём на ниж­нем уровне.

Вы, ко­неч­но, слы­ши­те о том, что ис­кус­ствен­ный ин­тел­лект надо внед­рять как можно быст­рее, и он, воз­мож­но, решит все наши про­бле­мы. Я сам раз­ра­бот­чик ис­кус­ствен­но­го ин­тел­лек­та по­след­ние де­сят­ки лет, и это верно толь­ко от­ча­сти. Нам, ко­неч­но, ни в коем слу­чае нель­зя от­стать в обо­роне, в про­мыш­лен­но­сти. Ис­кус­ствен­ный ин­тел­лект чрез­вы­чай­но важен для на­ве­де­ния на цель, для контр­ба­та­рей­ной борь­бы, в сель­ском хо­зяй­стве для ана­ли­за по­се­вов или кон­тро­ля ка­че­ства про­дук­ции, для транс­пор­та и так далее. Но в со­ци­аль­ной сфере и в го­су­прав­ле­нии, кроме вот этой ме­та­мор­фо­зы в об­ра­зо­ва­нии, сей­час на­зре­ли до­воль­но се­рьёз­ные про­бле­мы, такие пред­вест­ни­ки.

Пер­вое – это, ко­неч­но, утеч­ки. То есть сей­час самые-​самые про­дви­ну­тые ме­не­дже­ры госкор­по­ра­ций, го­сор­га­нов, круп­ных кор­по­ра­ций, круп­ных ком­па­ний в об­ла­сти кри­ти­че­ской ин­фра­струк­ту­ры по­ру­ча­ют своим по­мощ­ни­кам с по­мо­щью за­пад­ных, в ос­нов­ном за­пад­ных, об­лач­ных сер­ви­сов ор­га­ни­зо­вы­вать свою ком­му­ни­ка­цию и пе­ре­пис­ку в самых раз­ных мес­сен­дже­рах, в элек­трон­ной почте. И вся, в том числе дэ­эс­пэш­ная, пе­ре­пис­ка уле­та­ет про­тив­ни­ку, а это, соб­ствен­но, наш про­тив­ник. По­то­му что это об­лач­ные сер­ви­сы в ос­нов­ном аме­ри­кан­ские. А наши люди хотят самое луч­шее и фир­мен­ное, а имен­но аме­ри­кан­ское.

Вто­рое – это, ко­неч­но, по­пыт­ки за­ме­ны чи­нов­ни­ков на ро­бо­тов. Очень мно­гие чи­нов­ни­ки сей­час с удо­воль­стви­ем вы­став­ля­ют перед собой чат-​боты. Это нужно, чтобы до­су­жее на­се­ле­ние, про­тив­ное, склоч­ное и так далее, до них не до­би­ра­лось, а робот их от­би­вал. На самом деле, ко­неч­но, чат-​боты не ре­ша­ют даже мел­ких про­блем. Это фак­ти­че­ски про­сто спо­соб ото­гнать граж­дан, такой спо­соб сня­тия от­вет­ствен­но­сти.

Во­об­ще, ос­нов­ной риск ис­кус­ствен­но­го ин­тел­лек­та – это сня­тие от­вет­ствен­но­сти с от­вет­ствен­но­го лица, это решил ис­кус­ствен­ный ин­тел­лект. Это прямо мощ­ная тен­ден­ция. И это всё при­во­дит к та­ко­му наи­бо­лее гроз­но­му риску, как я счи­таю, – это воз­ник­но­ве­ние но­во­го вида такой циф­ро­вой вла­сти, ко­то­рую никто ни­ко­му не де­ле­ги­ро­вал ни вы­бо­ра­ми, ни Вашим рас­по­ря­же­ни­ем, когда про­сто люди по­лу­ча­ют власть по факту до­сту­па к дан­ным граж­дан и воз­мож­но­сти управ­лять их судь­ба­ми. Фак­ти­че­ски пе­ре­те­ка­ет власть от го­су­дар­ства, от си­ло­ви­ков, про­мыш­лен­ни­ков, энер­ге­ти­ков к циф­ро­ви­кам. И ка­жет­ся, что ско­рость внед­ре­ния и пе­ре­те­ка­ния вла­сти та­ко­ва, что мы при­бли­жа­ем­ся к какой-​то точке невоз­вра­та.

Хо­ро­ший при­мер – это пожар в Южной Корее, где в ре­зуль­та­те быст­ро­го внед­ре­ния… Они как бы впе­ре­ди нас ока­за­лись. Они всё пе­ре­ве­ли на без­бу­маж­ный обо­рот, и прямо на мо­мент в ре­зуль­та­те по­жа­ра у них сго­ре­ли сотни го­сус­луг, сотни тысяч ка­рьер­ных за­пи­сей гос­слу­жа­щих и так далее, при­чём и бэка­пы все сго­ре­ли, то есть ре­зерв­ное ко­пи­ро­ва­ние. И они не могут вос­ста­но­вить. Они даже про­сят со­труд­ни­ков при­но­сить но­ут­бу­ки, чтобы найти следы этих дан­ных.

Есть мне­ние, что такие риски как-​то учте­ны в На­ци­о­наль­ной стра­те­гии ис­кус­ствен­но­го ин­тел­лек­та. На самом деле Стра­те­гия не может ни­ко­го при­ну­дить на земле, там нет санк­ций, это общее на­прав­ле­ние раз­ви­тия.

Такое же при­мер­но за­блуж­де­ние есть на­счёт этики ис­кус­ствен­но­го ин­тел­лек­та. Есть у нас Ко­декс этики, я сам при­ни­мал уча­стие в его на­пи­са­нии. Он на­пи­сан че­ты­ре года назад, под­пи­са­ло боль­ше ты­ся­чи ком­па­ний. К со­жа­ле­нию, никто не ис­пол­ня­ет. Это такая ин­дуль­ген­ция: я под­пи­сал, зна­чит я этич­ный и даль­ше могу тво­рить всё то же самое. Самый про­стой при­мер. Там есть тре­бо­ва­ние мар­ки­ро­вать ис­кус­ствен­ный ин­тел­лект при об­ще­нии – никто этого не де­ла­ет, по­то­му что люди же будут бро­сать труб­ку.

Нам нужен имен­но закон, да­ю­щий силь­ный сиг­нал об­ще­ству о том, что можно и что нель­зя. Это не по­же­ла­ние, по­то­му что при ко­ми­те­те Ан­дрея Алек­сан­дро­ви­ча Кли­ша­са (это Ко­ми­тет по кон­сти­ту­ци­он­но­му за­ко­но­да­тель­ству и гос­стро­и­тель­ству) этой вес­ной мы со­зда­ли ра­бо­чую груп­пу, туда вошли спе­ци­а­ли­сты по ис­кус­ствен­но­му ин­тел­лек­ту, ин­фор­ма­ци­он­ной без­опас­но­сти, из­вест­ные юри­сты. Ру­ко­во­дит этой груп­пой из­вест­ный вам Вла­ди­мир Иго­ре­вич Кожин.

Мы с весны пы­та­ем­ся со­здать такой за­ко­но­про­ект, он на самом деле прак­ти­че­ски готов. Это про­ект о без­опас­ном ис­поль­зо­ва­нии ис­кус­ствен­но­го ин­тел­лек­та в со­ци­аль­ной сфере и го­су­прав­ле­нии. Есте­ствен­но, там ра­бо­та­ют спе­ци­а­ли­сты из СПЧ. Ос­нов­ная мысль за­ко­но­про­ек­та – это то, что нужно сти­му­ли­ро­вать раз­ви­тие ис­кус­ствен­но­го ин­тел­лек­та в про­мыш­лен­но­сти, в обо­роне и так далее, но в сфере пуб­лич­ной по­ли­ти­ки, в го­су­прав­ле­нии, в со­ци­аль­ной сфере, в об­ра­зо­ва­нии ис­поль­зо­ва­ние ис­кус­ствен­но­го ин­тел­лек­та долж­но быть се­рьёз­но от­ре­гу­ли­ро­ва­но. При­мер­но как с аце­то­ном или ме­та­но­лом: его можно ис­поль­зо­вать в про­мыш­лен­но­сти, но нель­зя ню­хать или до­бав­лять про про­дук­цию, в про­дук­ты пи­та­ния. Нель­зя за­ме­нять учи­те­лей и так далее.

У меня прось­ба, если можно, дать по­ру­че­ние пар­ла­мен­ту, СПЧ, Ад­ми­ни­стра­ции со­здать какую-​то меж­ве­дом­ствен­ную ра­бо­чую груп­пу, чтобы про­ана­ли­зи­ро­вать этот прак­ти­че­ски го­то­вый за­ко­но­про­ект и при­нять его как можно быст­рее.

Спа­си­бо.

Кравцова, эту минобразину, надо гнать из минобраза, и все проблемы с Искиным рассосутся.  Почти как в Корее.