Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Результаты исследования опубликованы в журнале Neurology. Специалисты проанализировали данные более чем 32 тысяч взрослых людей, за которыми наблюдали в течение 25 лет, и зафиксировали 5868 случаев деменции.

Оказалось, что у тех, кто бросил курить, риск развития заболевания был значительно ниже по сравнению с продолжающими курить. Наиболее заметный эффект наблюдался у тех, кто после отказа от сигарет набрал мало веса или вовсе не прибавил в массе.

Участники с умеренным набором веса после отказа от курения также сохраняли более низкий риск деменции, а вот при наборе более 10 килограммов связь становилась слабее. Учёные также обнаружили, что риск деменции продолжал снижаться с каждым годом после отказа от курения.

Примерно через семь лет показатели бывших курильщиков почти сравнялись с показателями людей, которые никогда не курили. Авторы исследования утверждают, что отказ от курения может поддерживать здоровье мозга в долгосрочной перспективе.

Однако важную роль играет и образ жизни после отказа от сигарет, включая контроль веса и общее состояние здоровья.

Исследование опубликовано в British Journal of Nutrition (BJN). В эксперименте участвовали 42 взрослых человека, которые обычно ели мало фруктов и овощей.

Добровольцам помогли увеличить их количество в рационе до рекомендованных «5 порций в день». Часть участников дополнительно каждый день выпивала стакан 100-процентного фруктового сока или смузи.

Через четыре недели обе группы стали питаться полезнее, однако у людей, употреблявших соки и смузи, показатели депрессии оказались заметно ниже. Разница составила 2,52 балла по шкале оценки депрессивных симптомов.

Учёные не обнаружили негативного влияния напитков на обмен веществ или уровень сахара. Участники продолжали получать достаточно клетчатки из цельных фруктов и овощей.

Авторы работы считают, что простые изменения в рационе могут стать доступным способом поддержки психического здоровья. Фруктовые соки и смузи, по их словам, способны облегчить достижение нормы потребления фруктов и овощей, особенно для людей, которым сложно придерживаться здорового питания.

В клиническом эксперименте участвовали 36 пациентов с метастатическим раком поджелудочной железы. Часть из них проходила стандартную химиотерапию, а часть — химиотерапию в сочетании с парикальцитолом, который является синтетическим аналогом витамина D.

Было установлено, что совместное применение парикальцитола с химиотерапией безопасно и способствует ослаблению защитной среды вокруг опухоли. Эта плотная ткань из фибробластов окружает опухоль и препятствует проникновению лекарств и иммунных клеток внутрь.

Учёные выяснили, что парикальцитол снижает активность клеток, формирующих эту ткань, и одновременно усиливает проникновение T-клеток в опухоль, что потенциально делает рак более чувствительным к лечению. Несмотря на то что исследование было небольшим и не ставило целью оценить эффективность терапии, результаты оказались обнадёживающими.

У 42 процентов пациентов, получавших аналог витамина D, наблюдался частичный ответ на лечение, в то время как в группе плацебо этот показатель составил 9 процентов. Более того, у некоторых пациентов болезнь не прогрессировала в течение года.

Авторы исследования подчёркивают, что говорить о новом стандарте лечения пока рано, однако их работа впервые подтвердила на пациентах возможность «перепрограммирования» микросреды опухоли аналогами витамина D и снижения её устойчивости к терапии.

Статью с результатами исследования опубликовали в журнале Molecular Nutrition amp; Food Research (MNFR). В эксперименте участвовали 12 взрослых людей с ожирением.

Они в течение четырёх недель каждый день выпивали по две небольшие банки томатно-соевого сока, а после перерыва переходили на контрольный томатный сок, в котором было мало активных соединений. Выяснилось, что именно томатно-соевый напиток снижал уровень трёх провоспалительных белков в крови: IL-5, IL-12p70 и GM-CSF.

Учёные также отметили тенденцию к снижению TNF-α, который является одним из маркеров хронического воспаления, хотя этот результат не достиг статистической значимости. Авторы исследования связывают эффект с ликопином из томатов и изофлавонами сои.

Эти растительные соединения раньше изучали как вещества, которые обладают антиоксидантными и противовоспалительными свойствами. Дополнительный анализ мочи показал, что напиток действительно влияет на ряд биохимических процессов в организме.

Исследователи полагают, что такой продукт можно рассматривать как перспективный вариант функционального питания при состояниях, которые связаны с хроническим воспалением.