Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

В исследовании, результаты которого опубликованы в журнале PLOS Mental Health, изучался эффект музыки в сочетании со слуховыми ритмами — мягкой звуковой стимуляцией, которая влияет на работу мозга. В эксперименте участвовали 144 взрослых человека с умеренной тревожностью, которые уже получали медикаментозное лечение.

Их разделили на группы: одни слушали «розовый шум», другие — музыку со слуховой ритмической стимуляцией разной продолжительности. Исследователи оценивали уровень тревоги и эмоциональное состояние участников до и после сеансов с помощью стандартных психологических шкал.

Наиболее выраженный эффект показал сеанс продолжительностью 24 минуты. Он снижал как психологические, так и телесные проявления тревоги и оказался столь же эффективным, как и более длительное прослушивание, но заметно превосходил короткий 12-минутный вариант.

Музыка без специальных ритмов такого эффекта не давала. Авторы исследования отмечают, что такой формат может стать доступным дополнением к традиционным методам лечения.

Музыкальная терапия не требует лекарств, практически не имеет побочных эффектов и может использоваться для быстрого снижения тревожности в повседневной жизни.

Этот вывод сделали учёные, которые исследовали результаты программ по уменьшению содержания натрия в массовом питании. Их статья опубликована в журнале Hypertension (HTN).

Моделирование продемонстрировало, что даже небольшие изменения в рецептуре популярных продуктов могут привести к снижению среднего уровня артериального давления среди населения. При этом людям не требуется менять свои пищевые привычки или специально ограничивать потребление соли — эффект достигается автоматически благодаря изменению состава продуктов.

Со временем такие «незаметные» меры могут помочь предотвратить множество случаев инфаркта и инсульта, а также снизить смертность от сердечно-сосудистых заболеваний. Хотя польза для каждого человека может показаться умеренной, на уровне миллионов людей она становится значимой для общественного здоровья.

Авторы подчёркивают, что постепенное уменьшение содержания соли в промышленно приготовленных продуктах — это один из наиболее эффективных и реалистичных способов снизить нагрузку на систему здравоохранения и уменьшить распространённость болезней сердца без давления на потребителей.

К такому заключению пришли учёные, изучив данные масштабного американского скринингового исследования. Результаты опубликованы в журнале Cancer.

Специалисты проанализировали медицинские данные свыше 88 тысяч взрослых участников, за которыми наблюдали примерно 20 лет. За этот период зафиксировали 1 679 случаев колоректального рака.

Оказалось, что у людей, которые в среднем употребляли 14 и более алкогольных напитков в неделю, риск развития колоректального рака был на 25% выше, а риск рака прямой кишки — почти в два раза выше по сравнению с теми, кто пил крайне редко. Особенно заметной связь оказалась у тех, кто много пил на протяжении всей взрослой жизни.

В этой группе риск рака кишечника был почти вдвое выше, чем у людей, стабильно придерживавшихся низкого уровня потребления алкоголя. При этом у бывших потребителей алкоголя повышения риска не обнаружили — у них реже выявляли предраковые изменения слизистой кишечника.

Авторы подчёркивают, что отказ от алкоголя может со временем снижать онкологические риски. Механизмы могут включать действие канцерогенных продуктов распада алкоголя и его влияние на микробиоту кишечника.

Хотя для окончательных выводов нужны дополнительные исследования, результаты подчёркивают важность учёта не только текущего, но и пожизненного уровня потребления алкоголя при оценке риска колоректального рака.

Исследования показали, что она может снижать вероятность развития кариеса, делая зубной налёт менее вредным для зубов. Такой вывод сделали учёные, которые изучили биоплёнки у пациентов с активным кариесом.

Результаты их работы опубликованы в International Journal of Oral Science (IJOS). В ходе клинического эксперимента участникам в течение четырёх дней выращивали зубной налёт на специальных пластинках, которые регулярно обрабатывали сахаром.

Затем одну сторону пластинок обработали раствором аргинина, а другую — плацебо. Анализ показал, что аргинин значительно ослаблял снижение pH после контакта с сахаром: налёт становился менее кислым, а значит, менее опасным для эмали.

Помимо изменения кислотности, аргинин влиял и на структуру налёта. Учёные обнаружили уменьшение количества углеводной матрицы — своеобразного каркаса, который делает налёт плотным, устойчивым и более агрессивным.

В то же время менялось распределение бактерий: уменьшалась доля микроорганизмов, активно участвующих в образовании кислоты. Авторы исследования подчёркивают, что эффект аргинина проявлялся по-разному у разных людей, но в целом результаты подтверждают его защитный потенциал.

Ранее учёные выяснили, что заболевания дёсен могут быть связаны с повышенным риском инфаркта и инсульта.