Поскольку чтение мыслей существует только в области фантастики и фантастики, кажется справедливым применить эту фразу к системе, которая использует данные сканирования мозга для расшифровки историй, которые человек читал, слышал или даже просто вообразил. Это последний из серии жутких лингвистических подвигов с использованием искусственного интеллекта, и люди задаются вопросом, какие гнусные применения человечество найдет для таких достижений.
Даже главный исследователь проекта, компьютерный нейробиолог Александр Хут, на страницах журнала Science назвал внезапный успех своей команды в использовании неинвазивной функциональной магнитно-резонансной томографии для расшифровки мыслей «довольно ужасающим».
Но не менее ужасен тот факт, что любой из нас может страдать от ужасного состояния, для которого была разработана технология, — паралича настолько глубокого, что он лишает людей самой способности говорить. Это может происходить постепенно из-за неврологических заболеваний, таких как БАС, или внезапно, например, при инсульте, который мгновенно лишает человека возможности общаться. Возьмем, к примеру, женщину, которая описала тяжелое испытание годами полного сознания, когда с ней обращались как с овощем. Или мужчина, который сказал, что он заморожен, напуган и беспомощен, когда врач спросил его жену, следует ли им отключить систему жизнеобеспечения и позволить ему умереть.
Редактор журнала Жан-Доминик Боби, который всю жизнь страдал от этой болезни, использовал систему морганий для написания книги «Скафандр и бабочка». Что еще он мог сделать, имея ментальный декодер?
Каждый разум уникален, поэтому система, разработанная Хутом и его командой, работает только после многочасовой тренировки на одном человеке. Вы не можете стремиться к кому-то новому и чему-то учиться, по крайней мере, на данный момент, объяснили Хат и его сотрудник Джерри Танг на прошлой неделе на пресс-конференции перед публикацией их работы в журнале Nature, Neuroscience Monday.
И все же их прорыв открывает как пугающие, так и дразнящие перспективы: лучшее понимание того, как работает наш мозг, новое окно в психические заболевания и, возможно, способ познать собственный разум. С другой стороны, есть опасения, что однажды такая технология не потребует согласия человека, что позволит ей вторгнуться в последнее убежище частной жизни человека.
Хут, доцент Техасского университета, был одним из первых испытуемых. Он и два добровольца должны были лежать неподвижно в общей сложности 16 часов каждый в функциональной МРТ, которая отслеживает активность мозга с помощью потока насыщенной кислородом крови, слушая истории из The Moth Radio Hour и подкаста Modern Love, выбранные потому, что они склонны быть приятным и привлекательным.
Это обучило систему, которая создала модель для прогнозирования моделей активности мозга, связанных с различными последовательностями слов. Затем был период проб и ошибок, в течение которого модель использовалась для реконструкции новых историй на основе сканирования мозга испытуемых, используя возможности одной версии ChatGPT для предсказания того, какое слово, вероятно, произойдет от другого.
В конце концов, система смогла «прочитать» данные сканирования мозга, чтобы расшифровать суть того, что услышали добровольцы. Когда испытуемые слышали: «У меня еще нет водительских прав», система предлагала: «Она даже не начала учиться водить». По какой-то причине, объяснил Хут, с местоимениями плохо, невозможно понять, кто что кому сделал.
Что еще более странно, испытуемые смотрели видео без звука, и система могла делать выводы о том, что они видели. В одном случае один персонаж сбил другого с ног, и система использовала сканирование мозга, чтобы придумать «он сбил меня с ног». Местоимения звучали беспорядочно, но действие было устрашающе сфокусировано.
Люди в сканере, возможно, никогда не думали словами. «Мы определенно затрагиваем нечто более глубокое, чем язык», — сказал Тан. «В данных о мозге гораздо больше информации, чем мы думали изначально».
Это не мошенническая лаборатория, занимающаяся сумасшедшей наукой, а часть долгосрочных усилий ученых всего мира. В статье New Yorker 2021 года исследователи описали проекты, приведшие к этому прорыву. Один из них разделял видение компании, финансируемой из Силиконовой долины, которая могла бы превратить громоздкий функциональный МРТ-сканер в пригодную для носки «мыслительную шляпу». Люди носили шляпу вместе с датчиками, чтобы записывать свое окружение, расшифровывать свой внутренний мир и объединять свой разум с другими — возможно, даже общаться с другими видами. Недавние прорывы приближают это будущее.
Для чего-то, чего никогда не было, чтение мыслей, кажется, регулярно появляется в популярной культуре, часто отражая желание утерянной или никогда не реализованной связи, как пел Гордон Лайтфут в песне «Если бы ты мог читать мои мысли». Мы завидуем вулканцам за их способность объединять разумы.
Однако исторический прецедент предупреждает, что люди могут причинить вред, просто воспользовавшись верой в то, что у них есть технология чтения мыслей, — так же, как власти манипулируют присяжными, подозреваемыми в совершении преступлений, кандидатами на работу и другими, веря, что полиграф — это детектор лжи. . Научные журналы показали, что полиграф работает не так, как думают люди. Но затем научные исследования показали, что наш мозг тоже не работает так, как мы думаем.
Таким образом, важная работа по восстановлению голоса у людей, чей голос был потерян в результате болезни или травмы, должна выполняться с глубоким вниманием по этическим соображениям; и осознание многих способов, которыми эта работа может быть обращена вспять. Уже существует целая область нейроэтики, и эксперты оценили использование более ранних, менее эффективных версий этой технологии. Но только этот прорыв оправдывает новую ориентацию. Следует ли разрешать врачам или членам семьи использовать такие системы, как система Хута, чтобы попытаться задать вопросы о желании парализованного пациента жить или умереть? Что, если он сообщит, что человек выбрал смерть? Что, если это было неправильно понято? Это вопросы, с которыми мы все должны начать сталкиваться.
© 2023 Блумберг ЛП
(Эта история не редактировалась сотрудниками NDTV и автоматически генерируется из синдицированного канала.)
