Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Соответствующие выводы опубликованы в научном издании npj Clean Air. В эксперименте участвовали 15 человек без проблем со здоровьем.

Каждому из них поочерёдно предоставляли возможность вдохнуть различные виды загрязнённого воздуха: выхлопные газы дизельных автомобилей, дым от древесины, испарения от приготовления еды и аэрозоли с лимоненом — веществом с цитрусовым ароматом, часто входящим в состав средств бытовой химии. Уже через час после начала эксперимента учёные зафиксировали изменения в работе дыхательной системы и когнитивных функциях участников.

Аэрозоли с лимоненом и древесный дым оказали наиболее заметное влияние на лёгкие. При этом различные типы загрязнений по-разному влияли на мозг: одни временно ускоряли скорость обработки информации, в то время как дизельные выхлопы одновременно проявляли признаки ухудшения исполнительных функций мозга, которые отвечают за концентрацию внимания и принятие решений.

Эксперты акцентируют внимание на том, что одинаковый уровень загрязнения не гарантирует одинаковый вред для организма. Важную роль играют источник и состав частиц, содержащихся в воздухе.

До этого сообщалось, что чрезмерное потребление сладкого негативно сказывается на памяти.

Это вещество, известное как PC1, представляет собой растительный полифенол, который ранее уже связывали с пользой для здоровья. Учёные выяснили, как именно PC1 влияет на мозг.

Оказалось, что это вещество улучшает пространственную память и работу мозга через молекулу microRNA-181a-5p, которая участвует в регуляции нейронных процессов. Кроме того, PC1 активирует выработку BDNF — белка, который играет важную роль в росте и защите нейронов, обучении и формировании памяти.

После приёма PC1 у животных усиливалась активность связанных с памятью сигнальных путей в гиппокампе — области мозга, отвечающей за обучение и запоминание. Авторы исследования отмечают, что PC1 плохо усваивается организмом, но даже при этом способен влиять на работу мозга через сложные сигнальные механизмы.

Учёные считают, что это открытие может помочь в разработке новых подходов для поддержки когнитивного здоровья и профилактики возрастных нарушений памяти.

Об этом стало известно из публикации в журнале JACC: Clinical Electrophysiology. Внезапное прекращение работы сердца происходит из-за сбоев в электрической активности органа и, как правило, приводит к летальному исходу.

Эксперты изучили геномы свыше трёх тысяч человек, переживших это состояние, и нашли 15 генов, повреждения в которых увеличивают вероятность опасного нарушения. Выяснилось, что у людей младше 29 лет опасные генетические варианты обнаруживались примерно у 10% пациентов.

С возрастом частота выявления таких мутаций снижалась: у людей старше 70 лет подобные изменения в генах находили лишь в 3% случаев. По мнению учёных, у пожилых пациентов остановка сердца чаще происходит не из-за генетической предрасположенности, а из-за закупорки сосудов и других сердечно-сосудистых заболеваний.

Авторы исследования считают, что людям, у которых в семье были случаи внезапной остановки сердца, необходимо проходить генетическое тестирование. Это может помочь выявить повышенный риск заранее и начать профилактику вовремя, например, изменить образ жизни или подобрать лечение.

Эти капли могут помочь людям, страдающим от синдрома сухого глаза, который характеризуется жжением, покраснением, ощущением песка в глазах и воспалением. Для борьбы с этим состоянием исследователи использовали механизм, аналогичный фотосинтезу растений.

Они извлекли из листьев шпината тилакоиды — структуры, участвующие в фотосинтезе, — и добавили их в специальные наночастицы для глазных капель. Когда система попадает в клетки глаза и подвергается воздействию обычного света, она начинает вырабатывать молекулу NADPH.

Эта молекула помогает клеткам защищаться от окислительного стресса и воспаления. Эксперименты показали, что уже через 30 минут после воздействия света уровень вредных окислителей заметно снижается.

В образцах слёз пациентов с синдромом сухого глаза содержание перекиси водорода уменьшилось на 95 процентов. Испытания на мышах показали, что новые капли оказались эффективнее препарата Restasis, который часто назначают при этом заболевании.

Исследователи считают, что в будущем подобный подход можно будет использовать и для лечения других воспалительных заболеваний, связанных с повреждением клеток активными формами кислорода.