Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Объяснена причина зависимости от соцсетей
Миллионы пользователей проводят много времени, просматривая короткие ролики в бесконечной прокрутке, и многие из них замечают, что не могут оторваться от экрана, даже когда планировали остановиться.

Китайские нейробиологи провели исследование, чтобы объяснить этот феномен. Они выяснили, что просмотр увлекательного контента может временно снижать активность областей коры, которые отвечают за сознательный контроль и саморегуляцию.

Учёные из Чжэцзянского университета под руководством Тяньтяня Хуна изучили две структуры мозга: переднюю поясную кору и префронтальную кору. Передняя поясная кора отслеживает конфликты и регулирует усилия при решении задач, а префронтальная кора отвечает за удержание внимания и подавление импульсов.

Вместе эти области образуют основу системы когнитивного контроля. В эксперименте участвовали 56 добровольцев со средним возрастом около 23 лет.

Сначала им провели протонную магнитно-резонансную спектроскопию для оценки уровней нейрохимических веществ, а затем предложили просматривать короткие видеоролики в функциональном томографе. Сеанс длился два блока по 6 минут каждый, при этом участники могли пропускать неинтересные клипы.

Результаты показали, что при просмотре увлекательных роликов активность обеих зон контроля заметно снижалась по сравнению с фоновым состоянием. При «скучных» видео дорсолатеральная префронтальная кора также подавлялась, а вот передняя поясная кора сохраняла средний уровень.

Примечательно, что зрительные отделы мозга работали одинаково активно в обоих случаях. У испытуемых с более высоким содержанием глутамата в передней поясной коре подавление активности было слабее — их мозг сохранял большую часть контрольных функций.

ГАМК значимого влияния не оказал. Авторы отметили, что во время просмотра усиливалась функциональная связь между двумя зонами, но это не улучшало самоконтроль — напротив, области синхронно переходили в режим пониженной активности.

Эти данные помогают понять, почему некоторые люди особенно подвержены бесконечному зависанию в ленте. Дело не только в алгоритмах приложений, но и в индивидуальных нейрохимических особенностях реакции на приятный визуальный поток.

Московский комсомолец

Выяснили механизм параллельной обработки речи мозгом
Учёные из Тринити-колледжа в Дублине доказали, что способность вести диалог и одновременно воспринимать чужие разговоры — это не случайность.

Нервная система действительно может обрабатывать два речевых канала параллельно. В эксперименте добровольцы слушали двух говорящих на фоне общего шума, а исследователи фиксировали активность мозга с помощью электроэнцефалографии.

Выяснилось, что в определённый момент оба сигнала как бы накладываются друг на друга: старый поток ещё не отпущен, а новый уже запускается. Временной интервал такого перекрытия составляет примерно 1–2 секунды, и на ЭЭГ это отражается в виде специфического нейронного паттерна.

Это открытие опровергает устоявшееся мнение о том, что внимание может быть направлено только на одного собеседника. Индивидуальные различия в скорости переключения между источниками звука объясняют, почему одни люди лучше ориентируются в оживлённой обстановке, а другие теряются в многоголосии.

Такая гибкость восприятия помогает не пропустить важное объявление в транспорте или вовремя понять, стоит ли вмешаться в соседнюю дискуссию. Механизм позволяет мозгу быстро оценивать значимость окружающей информации, не дожидаясь полного завершения предыдущего фрагмента.

Московский комсомолец

Индия запустила первую частную орбитальную ракету
Индия продемонстрировала значительный прогресс в области частной космонавтики, осуществив успешный орбитальный запуск ракеты Vikram-1, созданной компанией Skyroot Aerospace.

Этот запуск подтвердил готовность страны к активному развитию коммерческого сектора космических технологий. «Ракета-носитель Vikram-1 достигла орбиты в рамках тестового полёта», — сообщила компания Skyroot Aerospace на своей странице в социальной сети X.

«Первая частная орбитальная ракета Индии завершила финальное включение двигателя и вывела полезную нагрузку на орбиту высотой около 450 километров». В ходе миссии ракета успешно выполнила все поставленные задачи, включая вывод нагрузки на заданную высоту.

Представители разработчика подчёркивают, что этот запуск стал важным событием для национальной программы, поскольку Индия стала лишь третьей страной в мире, чьи частные предприятия обладают технологиями орбитальных пусков. Успех этого запуска знаменует переход индийского космического сектора от государственного монополизма к открытому рынку.

Это позволит значительно расширить возможности страны по оказанию услуг по доставке грузов в околоземное пространство.

Московский комсомолец

Спячка поможет в космосе?
The Guardian утверждает, что длительные космические путешествия представляют серьёзную угрозу для здоровья человека.

Пребывание в космосе связано с высоким уровнем радиации, микрогравитация может повредить мышцы, кости и глаза. Жизнь в стеснённых условиях на протяжении нескольких месяцев или лет может иметь серьёзные психологические последствия.

Физиологическая стратегия, которая позволяет животным выживать в условиях нехватки ресурсов, может стать решением этих проблем. Речь идёт о спячке, в процессе которой животные почти полностью отключают функции своего организма.

Кристиана Хан, курирующая исследования в области космической биологии в ЕКА, считает, что спячка может полностью изменить будущее космических путешествий. Она может защитить от радиационного облучения и потери костной и мышечной массы, а также снизить риск пребывания в замкнутом пространстве на месяцы или годы.

Физиолог из Йельского университета Елена Грачёва изучает, как животные могут обходиться без воды в течение восьми месяцев во время зимней спячки. Она определила область мозга, которая регулирует этот процесс.

Исследователи экспериментируют с лекарствами, ультразвуком и другими стратегиями, чтобы вызвать у людей состояние искусственного оцепенения. Профессор физиологии Болонского университета Маттео Серри воздействовал на клетки бледного шва — области мозга, которая играет ключевую роль в регулировании температуры и энергопотребления.

С 2023 года несколько групп, в том числе учёные из Вашингтонского университета в Сент-Луисе, использовали ультразвук, чтобы вызвать у животных искусственное оцепенение. Серри и его коллеги надеются вскоре начать тестирование этого подхода на здоровых добровольцах.

Исследователь нейробиологии Массачусетского технологического института Синиша Хрватин выявил ещё одну область мозга, которая играет ключевую роль в процессе спячки. В статье, опубликованной ранее в этом году, он и его команда исследовали область, известную как преоптическая область, которая играет ключевую роль в обмене веществ и температуре.

Клифтон Каллауэй из Питтсбургского университета давал здоровым людям седативное средство под названием дексмедетомидин в течение пяти дней; это привело к снижению скорости метаболизма на 20% и общему потреблению калорий на 30%. Каллауэй считает, что этого может быть достаточно, чтобы защитить путешественников от некоторых опасностей космического полёта.

Перспективы синтетического оцепенения простираются далеко за пределы обеспечения безопасности космических полётов. Учёные изучают его как средство лечения широкого спектра заболеваний, включая рак и болезнь Альцгеймера.

Гибернация стимулирует восстановление и регенерацию многих органов и типов клеток.

Московский комсомолец