В Вышке рассказали об основных угрозах ИИ

В Вышке прошла конференция «Искусственный интеллект и общество», на которой были представлены 48 докладов, подготовленных 52 исследователями из России, Китая, Германии, Швейцарии и Армении, в том числе восемь докладов исследователей НИУ ВШЭ. Ключевым событием конференции стала дискуссия на тему, как извлечь максимальную выгоду из ИИ, минимизировав риски и обеспечив соответствие этическим нормам.

©istock

Банк изображений - iStock

Открыл конференцию заместитель руководителя департамента и анализа данных ФКН Василий Громов, который подчеркнул, что общество должно непредвзято реагировать на новые вызовы, создаваемые ИИ, и учиться взаимодействовать с технологиями, чтобы извлекать максимум выгоды и отражать возникающие угрозы.

Руководитель направления исследования данных ПАО Сбербанк Лидия Булушова в докладе «Этичное моделирование: достижим ли баланс между точностью и непредвзятостью AI моделей в бизнесе?», подготовленном по исследованиям Банковского института Вышки, назвала основными вызовами применения ИИ-моделей в своей области «эффект домино» в случае массового применения ИИ-агентов; возможную предвзятость моделей вследствие ограниченности данных при обучении; использование моделей без учета этических принципов; злоупотребления и недобросовестное поведение работников, применяющих ИИ, а также конфиденциальность данных при хранении.

Доцент ФКН НИУ ВШЭ Александра Бернадотт представила доклад «Осцилляторная модель мозга и размерность мысли», в котором рассказала, как с помощью моделей нейроинтерфейса можно фиксировать и распозновать ментальные движения или квазидвижения для мониторинга ментального состояния пациента и предсказания кризисов. Легче всего детектируются состояния возбуждения, напряжения, сонливости и покоя, но мозг кодирует много других гармонических сигналов, которые специально предобученная большая языковая модель тоже способна "схватывать".  

Директор Центра научно-технологического прогнозирования ИСИЭЗ НИУ ВШЭ Александр Чулок представил доклад «Глобальные тренды цифрового мира 2050: взгляд сквозь мировые форсайты». Докладчик рассказал, что с помощью накопленных данных можно получить хорошие объяснения произошедших событий, но не качественные прогнозы будущего. Простая экстраполяция тенденций в будущее уже не работает, поскольку динамика и направление технологического развития может резко измениться, как было уже не раз. Александр Чулок отметил, что такие методы форсайта, как разработка сценариев, сочетание нескольких количественных методов, анализ больших данных и прогнозы ведущих экспертов, доказали свою эффективность и с успехом применяются ведущими технологическими странами. Южнокорейский форсайт 2021 г. на период до 2045 г. предусматривает создание механизмов, защищающих людей от захвата власти ИИ. Германия планирует активнее исследовать космос и морские глубины, что поможет ей формировать общество равных возможностей. Японский форсайт до 2050 г. включает разработку 8 направлений и 850 технологий, в том числе реабилитационных. К этому времни японцы намерены построить общество, основанное на инклюзивности и возможности выбора времени продолжительности жизни. И это не футурология, а результат работы серьезных ученых, заметил выступающий.

«Мы отличились, мы стараемся сделать ставку на одну технологию, но забываем о человеке. Мы можем подковать хромую блоху и вывести ее на международный рынок, но построить завод не получается, передаем производство в Китай», - посетовал ученый.

Александр Чулок напомнил о разработанной в ИСИЭЗ системе iFora, названной журналом Nature одной из пяти лучших мировых систем аналитики. Он подчеркнул, что прогноз ИСИЭЗ до 2025 г., сделанный с ее помощью, состоялся на 85-90%. "Это очень высокий показатель", - подчеркнул Александр Чулок. 

Ведущий научный сотрудник ВНИИ МВД России Александр Смирнов представил доклад «Использование технологий искусственного интеллекта в преступных целях: характеристика и методы противодействия». В нем он отметил, что технологии ИИ могут применяться и в позитивных, и в преступных целях. Триада угроз международной информационной безопасности включает использование ИИ в военных целях, террористической и преступной деятельностях. 

По мнению Александра Смирнова, волшебной таблетки для противодействия преступникам, использующим ИИ, нет, нужны комплексные этические и правовые нормы. Следует также укреплять системы безопасности, маркировать контент, созданный с применением ИИ, наконец, постоянно просвещать граждан об ухищрениях аферистов и мерах предосторожности и противодействия мошенникам.

Новость подговлена по материалу HSE daily