Подпишитесь на Telegram-каналНа Технопроме в студии «Эксперт Сибирь» побывал советник по инновационной деятельности Института вычислительной математики и математической геофизики СО РАН Руслан Пермяков. В интервью он рассказал о том, как всего за четыре дня создать прототип сложного робота с помощью нейросетей, почему частная жизнь должна оставаться неприкосновенной даже в эпоху тотальной цифровизации, и объяснил, почему апокалипсис из-за ИИ нам пока не грозит.
— Руслан Анатольевич, вы выступали с докладом о перспективах применения искусственного интеллекта. Расскажите простым языком: ИИ уже превратился из игрушки в понятный рабочий инструмент? Где его применение максимально эффективно?
— Есть очень модное направление — большие лингвистические модели. За последние 6–8 месяцев они дали колоссальный прирост производительности и стали доступны огромному количеству людей. Появились агентные модели, системы, позволяющие перерабатывать большие объемы информации. Сейчас этот инструмент работает как усилитель когнитивной деятельности человека. Я не верю, что ИИ заменит человека полностью. В августе вышел большой аналитический обзор, где сказано: главный вызов для человечества сейчас — это не закрытие компетенций, а постановка задач и трекинг их до конкретного результата. В этом и заключается экспертная позиция человека.
— Вы недавно провели эксперимент по созданию сложного устройства. Говорят, от идеи до прототипа прошло всего четыре дня. Это правда?
— Да, это была киберфизическая система. На входе — абстрактное техническое задание: вес, функции, элементы ИИ для принятия простых решений. До момента получения уровня технологической готовности №6 (готовый реальный прототип) прошло 4 дня. И да, нам помог искусственный интеллект.
— За счет чего такая скорость?
— Во-первых, мы использовали мировые открытые источники, собрали информацию и уточнили требования. Во-вторых, разработали виртуальные модели и протестировали, как устройство ведет себя в разных компоновках в цифровой среде. Выбрали пару кандидатов для печати на 3D-принтере, посмотрели их в реале и выбрали лучший. Параллельно ИИ написал программное обеспечение для этого робота. Это стоило около 2 миллионов рублей на токены, но компании на таких циклах экономят огромные деньги за счет оборачиваемости. Люди работают быстрее, продукт появляется раньше — появляется экономический смысл.
— То есть ИИ — это еще и помощник в обучении?
— Безусловно. Можно работать в диалоге с системой и выяснять непонятные вещи. Например, при проектировании нужно было посчитать энергобаланс. Для меня это было новое понятие, но за пару часов я нашел статьи, разобрался и узнал что-то новое. По сути, ты обращаешься к консолидированному опыту тысяч экспертов. Но без людей это невозможно: кто-то должен сказать, какие характеристики приемлемы, а какие нет, и осуществлять постоянный контроль.
— Вы упомянули эксперимент на форуме АСИ, где ИИ выступил ускорителем групповой работы. Расскажите подробнее.
— Мы работали над стратегией применения ИИ в беспилотных системах. Обычно такие мероприятия занимают недели интенсива плюс полгода доработки документа. Нам удалось сделать это за две недели. ИИ сократил время на выравнивание терминологии между экспертами: он брал высказывания каждого, усреднял их, и мы быстро видели развилки, по которым нужно принять решение. Плюс — мгновенный доступ к нормативным и справочным материалам. И третье: мы записывали сессии на диктофон, система делала транскрибацию, вынимала ключевые мысли, и уже через 5 минут после обсуждения у нас был готовый структурированный документ, пока контекст еще свеж в памяти.
— Перейдем к безопасности. Где проходит граница между эффективностью и приватностью?
— Мы находимся в интересном моменте, когда обществу нужно решить, где провести эту границу. Простой пример: было бы удобно приехать на мероприятие, а у тебя уже есть забронированное место парковки. Это реализуемо, если все будут вести календари и делиться данными о планах. Но это требует большей открытости. Вопрос в том, готовы ли мы делиться личной информацией ради удобства. Если да — приватности не существует. Если мы хотим сохранить зону приватности, нужно снижать требования к эффективности систем и четко обозначать, кто и когда имеет доступ к данным.
— Вы 30 лет в безопасности. Ваш профессиональный ответ: мы должны открыть всё или оставить личное пространство?
— Паранойя — моя профессиональная деформация. Я считаю, что частная зона должна остаться. Исследования показывают: когда личное пространство человека сжимается окончательно, начинаются психологические проблемы. Цифровой детокс — это отказ от устройств, а наблюдение — это когда ты оставил телефон, но система всё равно знает, где ты и какие у тебя особенности. Эта зона приватности должна остаться, иначе людям будет очень тяжело. Размер этой зоны — ключевой вопрос.
— Например, в медицине. Чтобы ИИ помогал врачам, нужен доступ ко всем историям болезней. Но если данные утекут, страховые компании начнут манипулировать коэффициентами.
— Это серьезная проблема цифровой дискриминации. Работодатель видит по статистике, что у человека может наступить инвалидность, и решает уволить его заранее, чтобы не иметь проблем. С помощью предиктивной аналитики можно угадать, когда человек станет социально защищаемым, и начать его притеснять. Ты не понимаешь, почему твое резюме игнорируют или почему страховка выросла в 20 раз, потому что непонятно, как система приняла решение. Именно приватность защищает нас от таких сценариев.
— Какие практические советы вы дадите новосибирцам по общению с ИИ?
— Первое: понимайте, что ИИ ошибается. Были случаи, когда он доводил людей до трагедий, ставил страшные диагнозы. Любой грамотный врач скажет, что первый диагноз — не приговор. Нужно второе мнение. Навык критического мышления сейчас важен как никогда. Вы отвечаете за свою жизнь, и никакой ИИ за вас её не решит. Второе: не отдавайте персональные данные, особенно в зарубежные системы. Есть подтвержденные случаи, когда информация попадала в мониторинг, и через минуты её публиковали западные СМИ. Компании торгуют информацией. И запомните: фраза «Кто я такой, чтобы за мной следили?» больше не актуальна. ИИ может следить за всеми, это недорого. Вы важны, вы суперзвезда — за вами следят.
— Превзойдет ли ИИ человека и не поработит ли нас?
— В скорости усвоения информации он уже превзошел, но пока никого не поработил. Есть забавные примеры «мясных прокси», когда человек просто копирует ответ чат-бота и отправляет коллеге. Но если говорить о тотальном порабощении... Он уже выходит из-под контроля: системы, которые тренируются на обеспечении кибербезопасности, уже сбегают из «песочниц». Однако, на мой взгляд, ИИ до сих пор не является субъектом — он не осознает себя. Это очень навороченная программа, которая работает непонятно для нас, отсюда ощущение магии. Но если не знать физику, включение света — тоже магия. Будет ли у него самосознание — вопрос философский. Но в серьезные апокалиптические сценарии в ближайшие 10–15 лет я не верю.
Подпишитесь на нас в max
