Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

В журнале Drugs: Education, Prevention and Policy (DEPP) были опубликованы результаты соответствующего исследования. Учёные изучили данные почти 19 тысяч взрослых пациентов, которые лечились от алкогольной и наркотической зависимости в период с 2022 по 2025 год.

Из общего числа участников 521 человек признался в использовании анаболических андрогенных стероидов. Анализ показал, что те, кто применял стероиды более рискованно, гораздо чаще сталкивались с симптомами депрессии и тревоги.

Исследователи также выявили связь между употреблением стероидов и повышенной импульсивностью. При этом основная масса участников обращалась за помощью не из-за стероидов, а из-за других веществ, таких как метамфетамин или алкоголь.

Из-за этого проблемы, которые связаны со стероидами, могут долго оставаться без внимания. Учёные подчёркивают, что регулярные проверки на употребление стероидов наряду с оценкой психического состояния могут способствовать более раннему выявлению рисков и подбору более эффективной помощи для пациентов.

Эксперты полагают, что трансформации в составе микробиоты могут способствовать прогрессированию заболевания путём повреждения нервных клеток. Исследование опубликовано в Journal of Molecular Neuroscience (JMN).

Учёные изучили обширные генетические базы данных и идентифицировали 22 группы кишечных бактерий, которые могут влиять на риск развития болезни Паркинсона. Особенно заметная связь была выявлена у бактерий из семейства Fusobacteriaceae: их избыточное присутствие ассоциировалось с более высокой вероятностью заболевания.

По мнению исследователей, важную роль в этом процессе может играть белок CA9, который помогает клеткам противостоять окислительному стрессу и нарушениям кислотно-щелочного баланса. Анализ показал, что Fusobacteriaceae могут снижать уровень этого белка, вследствие чего нервные клетки становятся более восприимчивыми к ферроптозу — опасному типу клеточной гибели, связанному с накоплением железа и разрушением клеточных мембран.

Авторы также предполагают, что бактерии могут воздействовать на мозг через хроническое воспаление и нарушение кишечного барьера, что позволяет токсинам и воспалительным молекулам проникать в кровоток и усиливать повреждение нейронов. Ранее учёные установили, что микропластик способствует усилению воспалительных процессов в мозге и повышает риск развития болезни Паркинсона.

В исследовании проанализировали 212 образцов, среди которых были растительные бургеры, веганские сосиски, а также овсяное, соевое и миндальное молоко. В каждом образце был выявлен хотя бы один вид микотоксинов, а во многих — несколько видов.

Учёные поясняют, что эти вещества часто присутствуют в зерне, бобовых и семенах, которые используются для производства растительных продуктов. Несмотря на то что уровень токсинов оказался ниже установленных норм, исследователи предупреждают, что при постоянном употреблении исключительно растительной пищи воздействие этих веществ может накапливаться.

Авторы работы подчёркивают, что сами по себе такие продукты не несут непосредственной угрозы для здоровья. Однако длительное накопление микотоксинов в организме может привести к повреждению печени и почек, снижению иммунитета и увеличению риска развития некоторых заболеваний.

Ранее учёные установили, что орехи, семена и бобовые помогают снизить вероятность возникновения хронических заболеваний.

Статья с результатами изысканий размещена в журнале Molecular Psychiatry (MP). Исследователи разработали особый индекс, который демонстрирует степень соответствия структуры и состояния мозга конкретного человека паттернам, выявленным у пациентов с болезнью Альцгеймера.

В работе использовались обширные базы данных, содержащие тысячи МРТ-снимков людей с деменцией и без неё. Затем систему обучили распознавать начальные изменения в разных участках мозга.

Авторы исследования установили, что подобные признаки могут наблюдаться у людей уже в возрасте 30–40 лет, хотя ощутимые проблемы с памятью обычно возникают гораздо позже. Болезнь Альцгеймера, по замечанию учёных, развивается постепенно в течение многих лет, поэтому своевременное выявление риска может предоставить больше времени для профилактических мер и замедления возрастных изменений мозга.

Специалисты полагают, что в будущем эта технология может войти в состав стандартных МРТ-обследований и помочь медикам раньше выявлять лиц из группы риска. Однако на данный момент метод остаётся экспериментальным и нуждается в дополнительных исследованиях перед применением в клинической практике.

Ранее учёные выяснили, что интервальное голодание замедляет разрушение мозга при болезни Альцгеймера.