ИИ: маршрут не построен, но уже проектируется

Как направить технологии искусственного интеллекта в правильное русло и минимизировать риски его использования при бурном развитии? Насколько конкурентоспособен российский рынок в этой сфере и какова роль государства в становлении ИИ-экономики? Эти темы обсуждали эксперты ИТ-рынка, участники дискуссии мероприятия «Российский рынок ИИ-решений: прогнозы, тренды, аналитика. Монитор технологий», прошедшего в ноябре 2024 года в «Умном городе».

СИЛА И СЛАБОСТЬ ИИ

Новые разработки и инструменты ИИ сегодня появляются ежедневно. Нейросети находятся на пике популярности, без них невозможно представить будущее.

Возможности ИИ велики и ничтожны одновременно, констатировали эксперты дискуссии. «Если вы спросите нейросеть, как организовать бизнес, она вам скажет банальные вещи – надо найти команду, инвестиции. Звучит прекрасно, но как это сделать, ИИ не подскажет», – говорит директор Loginom Company Алексей Арустамов.

«Откройте в поисковике описания ресторанов. Для большинства предлагается универсальный шаблон о «месте с прекрасной едой». Из-за маркетинговой стратегии ИИ мы в какой-то мере потеряли элемент творчества, креатива в продвижении услуг», - отметил футуролог, управляющий партнер MINDSMITH Руслан Юсуфов.

СТЕПЕНЬ ДОВЕРИЯ

ИИ грешит галлюцинациями – так называется его свойство уверенно давать неверный ответ. «Если пользователь сегодня получает таргетированную рекламу с типовым сообщением «вместе с бубликом купите пряник» – цена влияния на потребителя и возможной ошибки мала. Но вряд ли мы готовы сегодня доверить ИИ принятие решений, от которого зависит жизнь и здоровье», – говорит Алексей Арустамов. Эксперт констатировал, что на протяжении 25 лет, в течение которых Loginom занимается нейросетями, ИИ как был «чёрным ящиком», так и остался.

Подобное определение дают и большие игроки, например, глава Google. Гиганты больше других знают о несовершенстве ИИ, но развитие нейросетей определяет сегодня конкурентоспособность глобальных корпораций.

Эксперт полагает, что сегодня нет ответа на вопрос, как правительства будут разбираться с социальными проблемами, которые возникнут по причине массовых увольнений из-за масштабного внедрения ИИ. «Думаю Джефф Безос уже бы выкинул многих сотрудников, пока ему не позволяют сделать из-за возможного социального взрыва, который приведет к неправильному голосованию на следующих выборах. В то же время, если посмотреть на статистику по увольнениям за последние пару лет из крупнейших ИТ-компаний и банков, то сокращения «белых и синих воротничков» уже достигают уровня 13% ежегодно», – сказал Руслан Юсуфов.

ВСЕ ДЕЛО – В ДАННЫХ

Чтобы повысить степень прозрачности и доверия, ИИ нужно обучать. Требуются большие объемы качественной проверенной информации. То, что подано на вход большой языковой модели, то она и нагенерит, отметил Алексей Арустамов. Эксперт вспомнил опыт Microsoft: самообучающийся твиттер-бот с ИИ через сутки после запуска начал выдавать расистские, женоненавистнические высказывания и предлагал всех уничтожить. Система создавала контент, полученный на основе гигантских массивов анонимной информации из соцсетей.

Вопрос, насколько можно доверять выборкам, на основе которых строятся большие языковые модели, пока не решен. К тому же первичная информация может быть изначально ложной. 

Теоретическое обоснование ИИ-проектов сегодня не успевает за практикой. Перед экспертным сообществом стоит вопрос – как и что мерить, констатировал старший научный сотрудник отдела «Исследование управляемых систем и имитационное моделирование» Института системного анализа Федерального исследовательского центра «Информатика и управление» Российской академии наук (ИСА ФИЦ ИУ РАН) Григорий Ройзензон. Эксперт отметил 4 основных подхода к оценке рисков, которые необходимо скрестить: вероятностный, экспертный, социологический и модельный.

Если бы систему ИИ спросили по поводу рисков она бы придумала ещё с десяток методов, по которым её можно оценивать, заметил Леонид Раткин.

В ГОНКЕ ЗА ЛИДЕРСТВО

Эксперты обсудили российский рынок решений, которые созданы на основе ИИ. По данным Монитора технологий, сегодня 40% респондентов считают отечественные ИИ-решения конкурентоспособными, и этот показатель растет ежегодно.

Леонид Раткин напомнил, что системы ИИ в отечественной экономике используются давно. 36 лет назад (15 ноября 1988 года) с космодрома «Байконур» взлетел и совершил посадку корабль многоразового использования «Буран». Система ИИ использовалась в нем для автоматической посадки. Рекорд не был повторен ни одной другой страной.

Российские учёные не всегда афишируют достижения, поскольку часто умные технологии имеют двойное назначение, отметил эксперт, уточнив, что сегодня подобных разработок достаточно много.

Григорий Ройзензон рассказал, что Российская ассоциация искусственного интеллекта (РАИИ) была создана в 1989 году. В числе ее экспертов были многие ведущие ученые в области ИИ. В частности, отечественный кибернетик Дмитрий Поспелов, создавший одну из самых сильных международных научных школ по ИИ; ученый Эдуард Попов, на методических материалах которого студенты сегодня изучают модели и программные средства конструирования интеллектуальных систем принятия решений, многие другие.

Почему Россия не смогла стать лидером в гонке по развитию ИИ-технологий, а компания NVIDIA «прописана» не в России, а США, задал провокационный вопрос Руслан Юсуфов. 

Леонид Раткин считает, что в России нужно менять законодательную базу, как это сделано, например, в КНР. Там ежегодно патентуется 1,2 млн изобретений. В РФ их количество несоизмеримо меньше – порядка 35 тысяч, и отечественные умы вынуждены ехать за рубеж.

«В Китае существует Ассоциация поддержки российских ученых. Она предоставляет талантливым разработчикам офис и 50 тыс. долларов, также подписывает контракт, с условием, что объект интеллектуальной собственности должен быть зарегистрирован на территории КНР», - рассказал эксперт.

Леонид Раткин уверен, что, если Россия создаст аналогичные условия, с учетом того, что страна состоит и в Шанхайской организации сотрудничества, и в БРИКС, и в ЕАЭС, к нам тоже будет приток изобретателей, который повысит активность, в том числе в сфере интеллектуальной собственности в отрасли ИИ.

Алексей Арустамов считает, что вмешательство государство не всегда способствует развитию.

По мнению Алексея, предприниматели в России – сильные и активные люди, и сами справятся с трудностями.

С ПРИЦЕЛОМ НА БУДУЩЕЕ

«Перспективы для ИИ в России довольно хорошие, уже потому, что немного стран в мире, где есть свой национальный поисковик. Проблема с доступом к достоверным данным, на основе которых нейросеть может учиться, актуальна для всех государств», - отметил Алексей Арустамов.

В условиях экономических ограничений за рубежом потеряли информацию о том, что реально происходит в российской экономике, особенно в сфере двойных технологий, и это играет на руку нашей стране, считает Леонид Раткин. По его мнению, путем трансфера военных технологий в гражданский сектор экономики Россия может получить не только дополнительные возможности для развития ИИ, но ещё и подготовить кадры для работы на ближайшие десятилетия. Эксперт также предложил создать в России Институт сильного искусственного интеллекта, как это сделано в Китае. Там с 2020 года работает Пекинский институт ИИ (BIGAI).

У России есть очень короткий временной зазор, чтобы направить ИИ в нужное русло, считает Руслан Юсуфов.

Тема влияния технологий на экологию, общество и экономико-управленческую сферу активно прорабатывается членами Совета по устойчивому цифровому развитию при Ассоциации предприятий компьютерных и информационных технологий (АПКИТ), рассказала заместитель руководителя направления по устойчивому развитию IBS Виктория Колесникова.  

На площадке Совета также было разработано Руководство определения устойчивости ИТ-продуктов. В данном документе описана процедура выявления положительных и отрицательных эффектов устойчивого цифрового развития, приведена обоснованная методика по оценке выявленных эффектов и мер по управлению ими. Мы считаем ИИ хорошим инструментом с точки зрения устойчивого развития, он поможет достичь многих целей в этом направлении», - заключила эксперт IBS.