«Если внедрение ИИ прямо сейчас не поставить под контроль, дыр в безопасности появится очень много»

Директор Института искусственного интеллекта КФУ об экзистенциальных рисках технологии

«Использовать искусственный интеллект нужно так  же ответственно, как ядерную энергетику: и  тот и  другой процессы должны быть чрезвычайно зарегулированными»,  — убежден директор Института искусственного интеллекта, робототехники и  системной инженерии КФУ Дмитрий Чикрин, рассуждая об  инициативе правительства лишать госсубсидий предприятия, не  развивающие  ИИ. В  статье для «БИЗНЕС Online» эксперт объясняет, почему ИИ  может стать дырой в  кибербезопасности, рассказывает, когда и  как технология  заменит низкоквалифицированных работников, и  объясняет, где место России в  мировой гонке.

У России — особый путь. В ИИ тоже

В следующем году правительство намерено провести эксперимент: внедрение разработок в сфере искусственного интеллекта (ИИ) станет одним из условий получения мер господдержки для крупного бизнеса. Начать планируют с компаний, чья годовая выручка превышает 800 млн рублей. К этой инициативе можно относиться по-разному, но, если учитывать всю сложность ситуации с развитием ИИ, может быть, это и не такая плохая идея.

ИИ сегодня чрезвычайно бурно развивается, и это хорошо. Но применять данную технологию нужно так же ответственно, как ядерную энергетику, потому что результат может быть таким же, как и при легкомысленном использовании атома. И тот и другой процессы должны быть — иначе никак — чрезвычайно зарегулированными. Сама технология несет в себе экзистенциальные риски.

В Китае это поняли сразу: ни одно исследование, проект, продукт не может не то что выйти на рынок, но даже начать испытания без одобрения со стороны государства. В США и на Западе развитие ИИ идет практически неконтролируемо, без какого-либо согласования, и это крайне опасно.

Кто такой Дмитрий Чикрин?

Дмитрий Евгеньевич Чикрин — директор Института искусственного интеллекта, робототехники и системной инженерии КФУ. Доктор наук, профессор кафедры анализа данных и технологий программирования. Опытный руководитель инженерными и научными коллективами — до карьеры в университете более 7 лет работал техническим директором компании, выпускающей спецтехнику для силовых структур и ведомств.

Карьера в вузе:

2013–2015 — доцент и заведующий кафедрой автономных робототехнических систем Института информационных технологий и интеллектуальных систем КФУ, замдиректора по науке института.

2015–2020 — доцент кафедры радиофизики Института физики, заместитель заведующего отделением радиофизики и информационных систем по хоздоговорной деятельности.

2019–2021 — руководитель центра исследований и разработок интеллектуальных транспортных систем КАМАЗ — КФУ.

2020–2021 — заведующий кафедрой киберфизических технологий Высшей школы киберфизических систем и прикладной электроники Института физики КФУ.

С 2020 года по настоящее время — директор центра цифровых трансформаций КФУ.

2020–2023 — директор Института вычислительной математики и информационных технологий КФУ.

С 2023 года по настоящее время — директор Института искусственного интеллекта, робототехники и системной инженерии КФУ.

Россия традиционно выбирает средний путь, и это разумно. Не развивать технологии искусственного интеллекта мы не можем, иначе наша экономика начнет очень быстро отставать от экономики стран Запада и Китая. Рынок должен контролироваться государством, но не прямыми директивами, а через стимуляцию и госрегулирование. Структура нашей экономики такова, что наиболее эффективное развитие большинства продуктов производится путем грантов, госзаказов и субсидий. Но, к сожалению, пряник работает далеко не всегда, порой приходится использовать кнут. Например, реестр отечественных средств программного обеспечения существует уже 10 лет, но им никто не пользовался. Сертифицироваться там начали в последние годы, только потому что это стало требованием для получения ведомственных грантов. Здесь то же самое.

Важно, что все системы искусственного интеллекта, тем более те, которые внедряются на системообразующих предприятиях, должны проходить централизованные процедуры проверки и контроля. По ядерной энергетике есть комиссия МАГАТЭ, работают ведомственные комиссии по абсолютно любым критически важным сферам. Чем решения искусственного интеллекта хуже?

Незрелый ИИ — дыра в информационной безопасности компании

ИИ — вещь сложно контролируемая, ей должны заниматься специалисты. Уязвимыми могут быть даже довольно зрелые продукты вроде ChatGPT. Совсем недавно на него была проведена атака — при помощи специализированных промптов (запросов) его заставили показать выдержки из документов, по которым он обучался. А в незрелом продукте риски на порядок выше: если сотрудник захочет получить какую-то внутреннюю документацию, есть вероятность, что он это сделает, элементарно правильно сформулировав запрос к системе. Т. е. компания, внедряя ИИ, может добровольно получить инструмент, который гарантированно представляет собой масштабную дыру в информационной безопасности. Если сейчас это не поставить под контроль, то масштабных дыр будет очень много. Отрицать эту прямую опасность как минимум неправильно.

Очень важно, чтобы применяемые программные продукты были исследованными и проверенными. Для этого и создавался официальный реестр российского софта — туда должны попадать только зрелые продукты, прошедшие тестирование, по которым был проведен сторонний аудит и у которых минимизированы риски утечки информации. Если компании хотят внедрять свои собственные технологии — пожалуйста, но они тоже должны быть внесены в специальный реестр.

Иначе могут быть случаи, когда несколько разработчиков на предприятии что-то внедрили, а потом внезапно с удивлением обнаружили, что информация куда-то утекла. Или рядовые сотрудники получили выдержки из отчета акционеров. Или критичные данные о технологиях производства уплыли конкурентам.

Отдельная проблема — процесс внедрения искусственного интеллекта на предприятиях. Специалистов, которые умеют это делать, сегодня больше всего не хватает. Стандартных компетенций по информационной безопасности или системному администрированию для этого мало, предприятиям сейчас нужно создавать у себя отделы по внедрению и сопровождению ИИ-технологий. И в течение ближайшего года-двух мы получим острый дефицит грамотных внедренцев. Решается это очень просто — целевым набором, но бизнес почему-то не любит использовать такой вариант решения. Все предпочитают искать крохи на рынке.

ИИ ускоряет работу квалифицированного специалиста в 4–5 раз

Возможно, в погоне за субсидиями компании и станут внедрять технологии для галочки, но стратегически это оставит их на обочине жизни. Искусственный интеллект — это про эффективность. Те компании, которые будут его реально у себя использовать, получат колоссальный всплеск продуктивности.

Приведу пример из своей работы. Я, как специалист прежде всего в сфере образования, могу сказать, что трудоемкость при подготовке образовательных программ, написании текстов общего назначения снижается на 80%. Например, нужно придумать 70 тем для дипломных работ, ты написал 10 и начинаешь впадать в ступор, и это нормально — просто глаз замыливается. А искусственный интеллект даст тебе эти 70 тем, останется только их доработать и структурировать. Он ускоряет работу квалифицированного специалиста в 4–5 раз.

Современные виды медицинского ИИ радикально снижают нагрузку на самые востребованные категории врачей. Значительная часть квалифицированных врачей вынуждена работать над рутинными задачами: смотреть снимки, разбирать кардиограммы. В это время доктор мог бы заниматься сложными случаями, а так он просматривает несколько десятков снимков в сутки.

Если ИИ не уверен в правильной расшифровке снимка или у пациента есть вопрос, вызывают специалиста, и он сам смотрит снимок. Но такой случай один на 100. Искусственный интеллект прекрасно справляется с рутинными задачами. Например, недавно в Москве оцифровали несколько миллионов кардиограмм. Представляете, несколько миллионов человек сделали кардиограммы, но они были не расшифрованы! Зачем их делали, не знает никто. Сейчас такие ситуации повторяться не будут.

Искусственный интеллект уже сегодня способен практически безболезненно заменить специалистов младших квалификаций во многих областях — от копирайтинга до программирования. И он может очень серьезно увеличить производительность специалистов высшей степени квалификации. Мы постепенно идем к тому, что специалистов низкой степени квалификации, которые не хотят развиваться, у нас не будет. Для компаний это экономия на джунах и чрезвычайно сильное повышение производительности сеньоров, а основную прибыль компания получает как раз от последней. Поэтому тем, кто не хочет использовать ИИ, можно только посочувствовать.

Где место России в мировой гонке за ИИ

Качество продуктов в РФ в целом плюс-минус такое же, как и на Западе, но у нас значительно меньше их разнообразие. Выбор очень сужен, но успешные продукты есть в каждой области — от поисковых систем, генеративных искусственных интеллектов, до сервисов создания картинок, обработки данных и бизнес-аналитики.

В области генеративного ИИ, подобного ChatGPT, у нас есть два продукта-флагмана: сберовский GigaChat и YaGPT. Причем многие современные релизы зарубежных компаний по ряду метрик даже отстают от GigaChat. Есть ряд компаний, специализирующихся на обработке больших данных. Например, «Полиматика», которая является крупнейшим вендором и обеспечивает централизованную обработку различных данных, начиная с федеральной налоговой службы и заканчивая базами данных крупных корпораций.

Разнообразие продуктов будет только расширяться. Последние два года санкций привели к чрезвычайному оживлению отечественного IT-ландшафта. Количество продуктов, которыми стало можно пользоваться, выросло в 5–10 раз. Раньше большинство продуктов — от операционных систем до систем ВКС — просто не работало.

До 2022 года наблюдалась такая схема: компании делали MVP ( минимально жизнеспособный продукт прим. ред. ) для того, чтобы получить внешнее финансирование, а какой там дальше будет клиентский опыт, честно говоря, никого не интересовало, потому что все равно клиенты будут пользоваться Zoom и Microsoft Teams. У нас есть такая национальная черта: мы очень любим получать прототипы, их рекламировать, но не любим их дорабатывать. У нас все на MVP обычно и заканчивается. Деньги от инвесторов получены, потом продукт пытаются продавать, но ничего не работает. Сейчас Zoom больше нет, и клиентский опыт снова стал иметь значение.

Плюс ко всему на порядок выросло количество государственных грантов, причем очень крупных, направленных как раз на внедрение и коммерциализацию продуктов. Эти гранты отбираются, если результатов нет. Это хорошие, большие деньги, за которые не лень продукт доработать. Это чрезвычайно позитивные процессы, раньше у нас такого не было.

Вычислительные мощности у наших крупнейших компаний есть свои. Конечно, на зарубежной элементной базе — аппаратные ускорители системы искусственного интеллекта в мире делает только NVIDIA, ей принадлежит 80% рынка видеокарт. И с этим ничего сделать пока нельзя, но тем не менее современных дата-центров и современных суперкомпьютеров в нашей стране насчитываются десятки. И есть несколько очень крупных суперкомпьютеров, которые будут вполне себе конкурентоспособными еще на протяжении 3–5 лет.

Поэтому сейчас в отличие от Запада, где ИИ бросает из стороны в сторону, от состояния «очень хорошо» до «очень плохо»: то данные клиентов в какой-нибудь крупной корпорации утекут, то где-то автоматизируется до 30% рабочих мест, у нас идет достаточно стабильное развитие ИИ. До идеала нам далеко, но, по крайней мере, минимально необходимого функционала мы достигли, находимся близко к технологическому паритету. Если, например, в микроэлектронике у нас есть отставание в 5–10 лет, то в области искусственного интеллекта отставание исчисляется в некоторых случаях годом, а в некоторых — месяцами.

Фото на анонсе: «БИЗНЕС Online»
Мнение авторов блогов не обязательно отражает точку зрения редакции

Новости соседних регионов по теме:

«Урок цифры» провели в ряде кубанских школ. Ученики 9 класса из видеолекции, которую подготовила компания «Яндекс», узнали, как облачные технологии,
12:17 11.12.2023 UstLabInfo.Ru - Усть-Лабинск
с 2 по 16 декабря 2023 г. НОЧУ ДО «Академия компьютерной графики» проводит в Батыревской СОШ№1 курсы повышения квалификации на тему «Применение искусственного интеллекта в общеобразовательном учреждении».
11:41 11.12.2023 Знамя Труда - Ядрин
Участники встречи обсудили вопросы присоединения к бизнесу нейросетей. Специалисты рассказали,
13:44 11.12.2023 Сетевое издание Толк - Барнаул
НОЧУ ДО «Академия компьютерной графики» проводит с 02 по 16 декабря 2023 г.
10:30 11.12.2023 Министерство образования - Чебоксары
В очередном номере «Легпром ревю» - профессиональном журнале о технологиях и точках роста отечественного легпрома, опубликована статья проректора ИВГПУ Алексея Матрохина о применении искусственного интеллекта в прядении.
10:18 11.12.2023 Ивановский политех - Иваново
Представитель комитета транспорта и дорожного хозяйства Волгоградской области 02-03 декабря 2023 г. принял участие в цифровом интенсиве в г.
10:05 11.12.2023 Комитет транспорта и дорожного хозяйства - Волгоград
Тюменская область получила специальный приз Национальной премии "За вклад в развитие технологий искусственного интеллекта".
11:40 11.12.2023 ГТРК Регион-Тюмень - Тюмень
пресс-служба администрации городского округа Мытищи В Мытищах выявляют и ликвидируют объекты несанкционированной торговли.
09:40 11.12.2023 Газета Родники - Мытищи
В заседании принял участие профессор кафедры «Системы автоматизированного проектирования и поискового конструирования» Волгоградского государственного технического университета ,
08:55 11.12.2023 ВолгГТУ - Волгоград
Фото: правительство НСО Помогать обслуживать пациентов в новой поликлинике под Новосибирском будет искусственный интеллект.
11:50 11.12.2023 4S-Info.Ru - Новосибирск
Новая программа бакалавриата «кибертехнологии и анализ данных в гуманитарной сфере» появится в российских вузах.
12:41 11.12.2023 ИА Таймырский Телеграф - Норильск
Как выбрать профессию по душе, но при этом интересную, высокооплачиваемую и востребованную?
12:21 11.12.2023 ВГУЭС - Владивосток
Кофе Neuro станет первым в России, за создание которого отвечал искусственный интеллект, его обещают презентовать в ближайшее время.
12:50 10.12.2023 Chehov-Vid.Ru - Чехов
Самые прорывные технологии 2023-2024 года Технологии стратегии 2023 года, которые окажут значительное влияние на бизнес-среду в ближайшие пять-десять лет.
11:55 10.12.2023 РУК - Смоленск
Ученым из Национального института электромагнитной энергии Военно-морского инженерного университета удалось создать конструкцию,
08:20 10.12.2023 Смоленская народная газета - Смоленск
Технологии искусственного интеллекта помогут в сохранении лесов в пожароопасных районах Новосибирской области.
09:31 10.12.2023 1-LINE - Красноярск
Фото: портал мэра и правительства Москвы/Владимир Новиков Столичные ученые создали три новых предстандарта для безопасности использования искусственного интеллекта в медицине.
14:51 09.12.2023 M24.Ru - Москва
Фото: Пресс-служба мэра и правительства Москвы / Владимир Новиков Столичные ученые разработали три новых предстандарта для обеспечения безопасного использования искусственного интеллекта (ИИ) в медицине.
14:31 09.12.2023 Вечерняя Москва - Москва
Страны-члены ЕС и Европарламент пришли к общему решению, что «системы искусственного интеллекта должны быть безопасными и обязаны уважать фундаментальные права и ценности сообщества».
11:30 09.12.2023 Говорит Москва - Москва
В Удмуртии будут использовать искусственный интеллект для обнаружения лесных пожаров.
10:50 09.12.2023 Udm-info.Ru - Ижевск
 
По теме
С нового учебного года в пяти образовательных учреждениях Казани (лицеях №35 и 83, гимназиях №179 и 6 и лицее — инженерном центре) откроются кружки по основам управления беспилотными авиационными системами (БАС).
Программа на всероссийскую олимпиаду по химии. С 29 февраля по 3 марта в Менделеевске впервые пройдет всероссийская олимпиада школьников по химии и химической технологии «Потомки Менделеева»,
«В центре внимания всей природоохранной деятельности всегда был, есть и будет человек» - Реальное время Министр экологии Татарстана подытожил работу по нацпроекту «Экология» в Татарстане, его зам рассказал, как «грешат» татарстанцы, а Росприроднадзор назвал нарушителей Фото:
Реальное время
О пожарной безопасности со школьной скамьи - МЧС РТ  Воспитанники Нижнекамской специальной (коррекционной) общеобразовательной школы № 23 не только примерили «боевку» пожарного-спасателя, но и узнали много полезной информации от профессионалов МЧС.
МЧС РТ
Заместитель начальника-ветеринарный врач по противоэпизоотической работе Айрат Миндубаев рассказал об опасном заболевании – бруцеллёзе.
Алексеевский район
Профсоюзные волонтёры рядом - Федерация профсоюзов РТ 28.02.2024 С первых дней пандемии коронавируса штаб профсоюзных волонтеров взял на себя заботу по доставке продуктов питания, лекарственных препаратов для людей пожилого возраста.
Федерация профсоюзов РТ
Не забывай мелодию родного языка - Газета Посинформ В актовом зале МБОУ «КПСОШ № 1» НМР РТ прошло мероприятие, посвящённое закрытию месячника под названием «Сөйлим әбием-бабам телендә», в котором приняла участие и детская библиотека.
Газета Посинформ