Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Учёные доказали, что комплекс веществ, содержащихся в томатах, влияет на основные процессы, которые лежат в основе заболевания. В эксперименте использовались клетки печени человека, на которые воздействовали специальной томатной добавкой, обогащённой антиоксидантами.

Исследования показали, что добавка снижает уровень жиров, которые накапливаются в печени, включая триглицериды и эфиры холестерина. Кроме того, уменьшилось содержание других липидов, которые связаны с повреждением клеток и развитием воспаления.

Также добавка подавляла активность сигнальных молекул, которые участвуют в прогрессировании болезни. Это белки, связанные с воспалением, гибелью клеток и развитием фиброза — процессов, которые могут привести к циррозу и раку печени.

Это говорит о том, что эффект от томатов может быть не только метаболическим, но и противовоспалительным. Авторы исследования подчёркивают, что важную роль играет не один компонент, а сочетание веществ, таких как ликопин, полифенолы и другие антиоксиданты.

В комплексе они действуют эффективнее, чем по отдельности, воздействуя на несколько механизмов болезни одновременно. Учёные отмечают, что такие добавки могут дополнить здоровое питание, например, средиземноморскую диету, но требуют подтверждения в клинических испытаниях на людях.

Ранее было установлено, что брокколи, цветная капуста и рукола снижают риск сердечно-сосудистых заболеваний.

Эта работа опубликована в журнале Frontiers in Neurology (FN). Роботизированная терапия представляет собой реабилитацию с применением специальных устройств, которые помогают пациентам многократно выполнять правильные движения и ускоряют восстановление функций.

Учёные изучали состояние людей с гемиплегией — параличом одной стороны тела после инсульта. Выяснилось, что комбинированная терапия эффективнее стандартных подходов улучшает двигательную функцию рук и ног, а также способность к повседневной активности.

Особенно заметный прогресс наблюдался по шкалам, оценивающим восстановление движений и уровень самостоятельности в быту. Наиболее выраженный положительный эффект был отмечен у пациентов с более серьёзными исходными нарушениями движений рук.

Авторы предполагают, что роботизированная терапия обеспечивает интенсивные и повторяющиеся тренировки, а иглоукалывание может дополнительно воздействовать на нервную систему и усиливать восстановительные процессы. Исследователи подчёркивают благоприятный профиль безопасности такого подхода.

Однако они отмечают, что для окончательных выводов необходимы более масштабные и качественные исследования, а также данные о долгосрочных результатах лечения.

Эти вещества могут оказывать воздействие на воспалительные процессы, окислительный стресс, функционирование иммунной системы и механизмы уничтожения опухолевых клеток. Куркумин, основной активный компонент куркумы, может влиять на сигнальные пути, связанные с ростом и делением клеток, а также на эпигенетические механизмы, регулирующие активность генов без изменения ДНК.

Особое внимание в работе уделено проблеме низкой биодоступности куркумина. Это вещество плохо растворяется в воде, быстро разрушается и слабо всасывается в кишечнике.

В связи с этим учёные активно разрабатывают новые формы доставки куркумина, такие как наночастицы, липосомы, эмульсии и белково-полисахаридные капсулы, которые могут значительно повысить его устойчивость и усвоение. Авторы обзора подчёркивают, что куркума остаётся перспективным функциональным продуктом для профилактики и вспомогательной терапии онкологических заболеваний.

Ранее учёные выяснили, что биоактивные компоненты шафрана оказывают положительное влияние на настроение, воздействуя на мозг.

Эта зона отвечает за регуляцию дыхания и, как выяснилось, способна оказывать влияние на состояние сосудов. Соответствующие выводы опубликованы в журнале Circulation Research (CR).

В ходе экспериментов на животных учёные продемонстрировали, что активация данной области приводит к сужению сосудов и повышению артериального давления. При подавлении её работы показатели возвращались к норме.

Предполагается, что через этот механизм изменения в дыхании могут активировать реакцию нервной системы, которая повышает давление. Авторы исследования подчёркивают, что данное открытие способствует пониманию причин, по которым у людей с нарушениями дыхания, например, при апноэ сна, чаще развивается гипертония.

В условиях недостатка кислорода этот участок мозга может активироваться и усиливать патологические процессы. Учёные также предложили возможный метод лечения — воздействие на специальные рецепторы в области шеи, которые могут косвенно регулировать активность этой зоны.

Однако результаты пока получены только на животных, и их необходимо подтвердить в исследованиях с участием людей. Ранее сообщалось, что свекольный и грейпфрутовый соки способствуют снижению артериального давления.