специальный проект
«Критика искусственного разума»
Как калининградский университет превратился в центр нейронаучных разработок и машинного обучения
На три дня Балтийский федеральный университет имени Иммануила Канта стал местом, в котором бьется пульс нейронауки и смежных отраслей. В этом нет преувеличения: в организованном им масштабном проекте под названием «Балтийский форум: нейронаука, искусственный интеллект и сложные системы» (BF-NAICS 2021) приняли участие самые известные ученые в данной области, исследователи с мировыми именами из разных стран. Это — результат кропотливой десятилетней работы над развитием Центра нейротехнологии и машинного обучения, который сегодня с большим успехом работает в университете.
Для начала определение: нейронаука — направление, которое занимается изучением химических, биологических и анатомических особенностей, влияющих на деятельность мозга и нервной системы. Это зонтичное понятие: нейронаука объединяет множество междисциплинарных направлений, включая медицину, химию, психологию, молекулярную биологию, анатомию, физику и так далее. Машинное обучение — отрасль искусственного интеллекта, основанная на идее, что системы могут обучаться на основе данных, выявлять закономерности и принимать решения с минимальным вмешательством человека. Например, все мы слышали о картинах или текстах, которые пишет искусственный интеллект (ИИ) — это и есть один из результатов трудов ученых, которые работают в данной сфере. Система постоянно совершенствуется, и вот осенью прошлого года в газете The Guardian вышла колонка, полностью написанная ИИ. Она начинается так: «Я не человек. Я робот».

А теперь только представьте, что один из важных мировых центров, которые занимаются нейронаукой и машинным обучением, действует в БФУ. Это более трех десятков ученых, в том числе «столпов» российской науки (таких как профессор, доктор биологических наук Александр Каплан или профессор, доктор физико-математических наук Александр Храмов), работающих в ведущих университетах мира, которые в рамках коллаборации объединились под «крылом» калининградского вуза. И то, что он смог привлечь к участию в BF-NAICS 2021 авторов самых передовых исследований из Великобритании, Италии, Испании, Израиля, России, США, поделившихся своими последними наработками, уже само по себе говорит и о роли БФУ в развитии этого научного направления, и о статусе самого форума.
БФУ им. И. Канта подал заявку на участие в федеральной программе по созданию исследовательских центров в сфере искусственного интеллекта.
Именно Центру нейротехнологий и машинного обучения отводится роль стратегического проекта, призванного превратить калининградский университет в базу для научных исследований. В этом году БФУ приступает к реализации новой программы развития, рассчитанной до 2030 года. В итоге он должен стать настоящим проектным университетом, и особенно важно, что речь идет о развитии именно междисциплинарных исследований на его основе. Не случайно в прошлом месяце университет подал заявку на участие в федеральной программе по созданию исследовательских центров в сфере искусственного интеллекта.

В связи со всем этим вдвойне примечательно, что такой уникальный форум открылся в Калининграде, который, будучи Кенигсбергом, стал родиной теории графов, напомнил во время открытия форума ректор БФУ имени Канта Александр Федоров. Помните задачу о семи кенигсбергских мостах? Решение Эйлера стало первым применением этой теории, без которой сейчас немыслимы ни теория сложных сетей, ни приложения искусственного интеллекта, ни исследования сетей головного мозга, пояснил ректор. Калининградский форум планируется сделать ежегодным: тем самым будет заложена важная исследовательская традиция. А с учетом второго приоритетного направления развития университета, связанного с развитием философской мысли и, в частности, с критическим мышлением, Александр Федоров выразил надежду, что «когда-нибудь на этой земле родится новая критика: критика искусственного разума».
Все это перекликается с программами, на которые делают ставку и региональные власти, о чем говорил уже губернатор Антон Алиханов, который также принял участие в церемонии открытия BF-NAICS 2021. В будущем году на реализацию научных, научно-технических и инновационных проектов, стартапов правительство Калининградской области выделяет 100 млн рублей. Как считает глава региона, нынешний форум — отличная площадка для того, чтобы обсудить вызовы, стоящие перед нами в связи с бурным ростом интеллектуальных и цифровых технологий. И найти ответы на возникающие вопросы.

Впрочем, вопросов немало уже сейчас. О том, какие задачи сейчас решают ученые, объединенные Центром нейротехнологии и машинного обучения БФУ имени И. Канта, мы побеседовали с одним из участников форума, доктором физико-математических наук, сотрудником этого Центра Владимиром Максименко. По его словам, в лаборатории планируется одновременно развивать направления, связанные с нейронаукой и искусственным интеллектом, и здесь ее главная специфика.
Владимир Максименко
Доктор физико-математических наук, сотрудник Центра нейротехнологии и машинного обучения БФУ им. И. Канта
— Мы будем заимствовать у человека некоторые особенности функционирования его нервной системы. Это будет использоваться при разработке новых архитектур для машинного обучения. Будем решать задачи применения систем искусственного интеллекта и машинного обучения для работы с человеком. Например, для разработки систем поддержки принятия решений в медицине и на производстве. Во всех отраслях, где цена ошибки высока, важно контролировать состояние человека. Здесь особенно перспективно внедрить искусственный интеллект. Он не ошибается, не подвержен влиянию эмоциональных факторов. Если научить искусственный интеллект оценивать, насколько сейчас человек готов принимать важные решения, он сможет взять на себя роль ассистента в ситуациях, когда человек устал или потерял бдительность.

Наша команда уже давно занимается разработкой систем контроля состояния человека, так называемых интерфейсов мозг-компьютер. В частности, мы научились оценивать концентрацию внимания и предсказывать риск возникновения ошибок. Это очень важно для медиков, пилотов и авиадиспетчеров. Мы начали этим заниматься еще до активного развития ИИ, а сейчас можем дополнить наши разработки методами машинного обучения, создать интеллектуальных ассистентов, включающихся в тот момент, когда человеку требуется поддержка. Это пример научного направления, где искусственный и естественный интеллект взаимодействуют и должны исследоваться вместе.
Доктор физико-математических наук, сотрудник Центра нейротехнологии и машинного обучения БФУ им. И. Канта Владимир Максименко
Сейчас формируется карта направлений, которыми будет заниматься Центр нейротехнологий и машинного обучения. Одним из ключевых направлений будет нейронаука, потому что необходимо анализировать активность мозга человека во время принятия решений, во время когнитивной деятельности — чтобы разработать эффективные стратегии взаимодействия человека с ИИ.

Еще одно важное направление — развитие систем интерпретируемого искусственного интеллекта. ИИ традиционно представляется «черным ящиком». Он учится находить скрытые закономерности в данных и, таким образом, решать различные задачи. Однако точно нельзя сказать, что это за закономерности, у искусственного интеллекта нет формулы, по которой он работает.

Важно понимать правила, на основе которых ИИ принимает решения, чтобы в критический момент на эти решения можно было положиться. Поэтому для развития ИИ в таких областях, как, например, медицина, очень важно, чтобы эти системы были интерпретируемыми.
Как работает искусственный интеллект сейчас? Собираются большие данные, описывающие процесс, который необходимо исследовать, ИИ учится находить в них закономерности. После обучения ИИ может самостоятельно анализировать схожие процессы, решать задачи обнаружения, классификации и прогноза. Например, ИИ может выучить закономерности, описывающие состояние мозга во время эпилептического приступа, и использоваться для его обнаружения и даже предсказания.

Данная концепция основана на том, что новые данные, которые ИИ еще не видел, будут подчиняться закономерностям, выявленным на тренировочных данных. Но когда речь идет об анализе биометрии человека, возникает высокий риск вариабельности данных между людьми.

Здесь необходимо проводить фундаментальные исследования, чтобы выявлять общие закономерности, которые объединяют всех людей. И если удастся найти эти интерпретируемые закономерности, можно им обучить ИИ. Это, во-первых, позволит сделать ИИ устойчивым к вариабельности входных данных. Во-вторых, станет понятно, на основе чего машинное обучение принимает решение. У нас уже есть опыт в этом направлении. В частности, мы разработали методы для анализа данных электрической активности головного мозга с использованием средств машинного обучения.

Подходы к созданию систем интерпретируемого ИИ мы планируем развивать для решения разных задач — это не только медицина, но и экономические задачи в том числе.
Если удастся найти интерпретируемые закономерности, можно обучить им искусственный интеллект.
В экономике ИИ можно использовать, например, для автоматизации производственных процессов. Это вроде бы задача, которая лежит на поверхности. Интересно, чтобы человеческий труд на производстве все больше замещался искусственным интеллектом. Но понятно, что полностью человека нельзя заменить: есть люди, которые имеют большой опыт и могут правильно среагировать во внештатных ситуациях. А машину мы этому научить пока не можем. И в этом плане искусственный интеллект, если человека полностью не заменяет, опять же выступает в качестве ассистента.

В медицине искусственный интеллект можно использовать как вспомогательный инструмент для диагностики. В последнее время развитие технологий позволяет детально исследовать любой орган человека, секвенировать ген — но все это приводит к тому, что состояние человека начинает характеризоваться огромным объемом данных. В этих данных нужно находить закономерности, которые позволят спрогнозировать риск развития того или иного заболевания. Это как раз задача для машинного обучения. Зная и понимая эти закономерности, врач мог бы назначать своевременное и эффективное лечение.
Чем занимается Центр нейротехнологий и машинного обучения БФУ им. И. Канта
Прогресс в машинном обучении вплотную приблизил нас к созданию систем, которые могут сами принимать решения относительно здоровья человека и ставить диагноз. Но возникла очень серьезная проблема интерпретируемости. В медицине решения на основе машинного обучения не могут быть использованы, пока принципы их работы не будут прозрачны и интерпретируемы. Пока ИИ остается «черным ящиком», на основе его решений никак нельзя ставить диагноз. Здесь есть и этический момент, и здравый смысл не позволяет слепо довериться машинному обучению. Поэтому несколько лет назад встала проблема создания интерпретируемого машинного обучения, в первую очередь для здравоохранения.

В то же время ученые переключились на развитие систем, которые будут не принимать решения самостоятельно, а будут ассистировать специалисту. Это то, о чем я сказал ранее. Такие системы есть. Они размечают, например, запись активности головного мозга, сердечного ритма, подозрительные участки на МРТ-снимках, рентгеновских снимках легких — и доктор, получая эти данные, принимает на их основании решения.
Для успешной работы систем с искусственным интеллектом важен междисциплинарный подход.
Таких систем не очень много. Для их успешной работы необходимо обучать ИИ с учетом знаний о фундаментальных особенностях функционирования тех или иных систем организма человека. Тут принципиально нужен междисциплинарный подход. Создать работоспособные решения на базе ИИ для медицины возможно только при сотрудничестве специалистов из разных областей: медиков, биологов, генетиков, IT-специалистов, специалистов в области машинного обучения, которые будут учить системы ИИ с учетом знаний о работе организма и о том, как патологии себя проявляют на данных.

Сейчас вычислительные мощности позволяют создать системы глубокого обучения, которые сами находят все эти закономерности. То есть они не знают, как работает орган, но все равно отличают норму от патологии. Но, чтобы внести прозрачность в работу ИИ, сделать его решения понятными для врача, необходимо формировать обучающие данные с учетом физиологических особенностей. Для этого как раз необходимы совместные исследования.
Насколько мы далеки от внедрения подобных разработок? От того, чтобы понять, как работает мозг, мы, к сожалению, далеки. А внедрение методов машинного обучения в научно-исследовательскую деятельность, связанную с анализом активности мозга, в некоторые клинические практики в качестве ассистентов, — думаю, это произойдет быстро. Это перспектива не десятилетий, а лет. И когда системы на базе ИИ будут внедрены в научно-исследовательскую деятельность по изучению мозга, как раз это нас очень сильно продвинет в понимании того, как работает мозг.

Мозг — это система, которая состоит из огромного числа нейронов и нейронных связей — по сути, это большие данные. А с большими данными как раз методы машинного обучения призваны работать, чтобы отыскать скрытые закономерности, которые традиционные методы, к сожалению, не находят. Можно надеяться, что машинное обучение позволит лучше изучить человека. Человек создает методы машинного обучения, основываясь на своих знаниях об устройстве мира, физике, математике и так далее — но уже сейчас они позволяют находить такие закономерности, которые человек осознанно найти не может и не может описать при помощи существующего математического аппарата. И наша задача сейчас — эти закономерности интерпретировать и понимать, это даст толчок развитию многих научных направлений.

Но, говоря о клинических приложениях, надо понимать: все, что связано с медициной, подлежит лицензированию, а это процесс довольно длительный. Что касается промышленности, мне кажется, здесь дело должно идти быстрее.
«Балтийский форум: нейронаука, искусственный интеллект и сложные системы» в БФУ им. И. Канта
Научные направления, связанные с искусственным интеллектом, еще находятся на своем начальном этапе. Для их развития важным фактором является смелость, гибкость, умение руководства запускать новые направления, понимать их философию, знать, каких ученых привлечь и какую создать инфраструктуру. В БФУ с этим отлично справляются, здесь объединился мощный коллектив исследователей: это Александр Каплан — ведущий специалист в области нейронауки, Александр Храмов — известный ученый, работающий на стыке физики и нейронауки. Сформирована, я бы сказал, очень своевременная коллаборация — это как раз то, что нужно, чтобы достичь успеха в этих новых отраслях, где определяющую роль играет именно междисциплинарность, взаимодействие. Наладить междисциплинарное взаимодействие достаточно сложно, ведь ученые из разных областей науки взаимодействуют сложно, врач и дата-аналитик говорят на совершенно разных языках, а здесь создается такое поле, где этот процесс коммуникации происходит легче.
Центр нейротехнологий в БФУ им. И. Канта занял уникальную нишу на стыке нейронауки, физики, теории сетей, математики.
Главный показатель того, что БФУ удалось наладить это междисциплинарное общение, — нынешний форум. Его уникальность именно в междисциплинарности: я принимал участие во многих симпозиумах по физике и по нейронауке, но это совершенно разные площадки, сфокусированные на решении своих задач. А мы здесь заняли уникальную нишу — на стыке нейронауки, физики, теории сетей, математики, — и в форуме принимают участие ведущие, «топовые» мировые специалисты в каждой из этих областей. Это значит, что они признают авторитет научной лаборатории, которая формируется в БФУ, и ожидают, что она может серьезно продвинуть данное направление в науке.
© 2021, «Новый Калининград», 18+

Автор: Оксана Ошевская
Визуализация: Денис Туголуков
Выпускающий редактор: Оксана Шевченко
Фото: Балтийский федеральный университет им. И. Канта

На правах рекламы