Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Результаты их работы опубликованы в журнале American Journal of Clinical Nutrition (AJCN). В исследовании использовались данные долгосрочной программы, в рамках которой здоровье детей отслеживалось с раннего возраста.

Учёные анализировали, какое молоко пьют дети — обезжиренное, с пониженной жирностью или цельное, и сопоставляли это с показателями массы тела и жировой ткани в возрасте пяти и восьми лет. Оказалось, что у детей, которые пили цельное молоко в раннем возрасте, индекс массы тела был ниже, и они на 69 процентов реже сталкивались с ожирением к восьми годам по сравнению с теми, кто пил обезжиренное молоко.

Более высокая жирность молока была связана с более благоприятными показателями состава тела. Авторы исследования предполагают, что молочный жир может усиливать чувство насыщения и снижать потребление менее полезных продуктов.

Однако точные механизмы этого пока не ясны. По их словам, результаты ставят под сомнение прежние рекомендации отдавать предпочтение обезжиренным продуктам и показывают, что важнее общий рацион ребёнка, а не только жирность молока.

Этот вывод основан на результатах исследования, опубликованных в журнале Neurobiology of Aging (NA). В эксперименте участвовали 1208 человек, за которыми наблюдали на протяжении шести лет.

Учёные анализировали их рацион и изменения в когнитивных функциях. Выяснилось, что у мужчин, потреблявших больше натрия, память ухудшалась стремительнее, чем у тех, кто ел меньше соли.

У женщин подобной зависимости не выявили. Речь идёт об эпизодической памяти — способности запоминать личные события и детали повседневной жизни.

Именно этот вид памяти зачастую страдает одним из первых при возрастных когнитивных нарушениях. Авторы исследования предполагают, что избыток соли может вызывать воспаление в мозге, повреждать сосуды и ухудшать кровоснабжение.

Они считают, что контроль потребления соли может помочь замедлить возрастное ухудшение памяти. Однако для подтверждения этих выводов требуются дополнительные исследования.

Ранее учёные выяснили, что жизнь в районе с хорошей инфраструктурой способствует замедлению возрастной потери памяти.

Результаты исследования опубликованы в журнале Sleep. В эксперименте участвовали 536 человек, которые регулярно описывали свои сны и эмоциональное состояние утром.

Всего было проанализировано более 4,7 тысячи записей. С помощью алгоритмов обработки текста учёные оценивали, какие эмоции — страх, радость и другие — присутствовали в сновидениях, и сопоставляли их с последующим настроением.

Выяснилось, что пугающие сны чаще связаны с более выраженными негативными эмоциями утром. При этом люди, которые лучше умеют справляться с эмоциями в повседневной жизни, видят такие сны чаще.

По мнению учёных, это говорит о том, что мозг во сне активно «прорабатывает» страх и стресс, а не просто подавляет их. В то же время сны, в которых сочетались разные эмоции — например, страх и радость — чаще сопровождались отсутствием негативного настроения после пробуждения.

Авторы считают, что это указывает на сложную и адаптивную роль сновидений: они помогают психике перерабатывать переживания и поддерживать эмоциональное равновесие. Ранее учёные выяснили, что регулярные тренировки и достаточный сон снижают риск деменции.

В результате исследования выяснилось, что рацион действительно способен влиять на вероятность заболевания, однако результат зависит от общего подхода к питанию. Статья опубликована в журнале Frontiers in Nutrition.

Средиземноморская и MIND-диеты продемонстрировали наиболее выраженную связь со снижением риска болезни Альцгеймера. Эти системы питания предполагают употребление большого количества овощей, ягод, орехов, цельнозерновых продуктов и полезных жиров, например, оливкового масла.

В ходе наблюдений выяснилось, что у людей, которые придерживаются такого рациона, риск деменции ниже примерно на 10–20 процентов. Однако клинические испытания показали более умеренные результаты.

Улучшения когнитивных функций действительно фиксируются, но они зачастую незначительны и сопоставимы с эффектом от общего оздоровления образа жизни, например, снижения веса или отказа от переработанных продуктов. Кроме того, учёные рассмотрели кетогенную диету — режим питания с минимальным количеством углеводов.

Она может временно улучшать когнитивные функции за счёт изменения энергетического обмена в мозге. Однако данных о долгосрочной пользе пока недостаточно, а сама диета сложна для соблюдения и может быть небезопасной для пожилых людей.

Авторы подчёркивают, что питание скорее служит профилактикой, а не лечением. Наибольшую пользу оно приносит при длительном соблюдении — до появления симптомов заболевания.

Ранее стало известно, что чувство одиночества способствует ухудшению памяти у пожилых людей.