Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Результаты исследования опубликованы в журнале Nature Medicine. Рак пищевода относится к одним из самых смертельных заболеваний, во многом из-за того, что его часто диагностируют на поздних стадиях.

Известно, что это заболевание связано с пищеводом Барретта. Однако у многих пациентов этот признак не обнаруживали, что вызывало сомнения в его значимости.

В ходе исследования учёные проанализировали данные более чем 3 тысяч пациентов и провели генетическое исследование опухолей. Выяснилось, что все опухоли имели одинаковые молекулярные признаки, независимо от того, был ли виден пищевод Барретта при диагностике.

Это говорит о том, что предраковая стадия всегда присутствует, но может исчезать по мере развития болезни. Кроме того, исследователи обнаружили биомаркеры — особые белки, которые позволяют выявить эту скрытую стадию даже тогда, когда она не видна при обычных обследованиях.

По словам учёных, это открывает возможности для более ранней диагностики и профилактики рака, когда лечение может быть значительно эффективнее.

Под репродуктивным периодом учёные подразумевают время между началом менструаций и наступлением менопаузы. Этот временной отрезок отражает длительность воздействия эстрогенов — гормонов, которые, как предполагается, оказывают значительное влияние на работу мозга.

Поскольку у женщин когнитивное снижение зачастую происходит быстрее, чем у мужчин, учёные давно пытаются выяснить, как гормоны влияют на этот процесс. Анализ более чем 30-летних наблюдений показал, что женщины с более длительным репродуктивным периодом в среднем лучше сохраняют память и другие когнитивные функции с возрастом.

При этом использование гормональной терапии, даже в первые годы после менопаузы, не продемонстрировало значимого влияния на состояние когнитивных способностей. Авторы исследования подчёркивают, что полученные результаты не означают необходимости вмешательства в гормональную систему, но помогают лучше понять механизмы старения мозга.

По их словам, естественные факторы, связанные с гормональным фоном, могут играть более важную роль в сохранении когнитивного здоровья, чем считалось ранее.

Результаты исследования опубликованы в журнале International Journal of Behavioral Nutrition and Physical Activity (IJBNPA). Учёные изучили данные более семи тысяч человек в возрасте от 40 до 65 лет и наблюдали за изменениями их веса в течение пяти лет.

Выяснилось, что у тех, кто ужинает раньше, завтракает в первой половине дня и не перекусывает между этими приёмами пищи, индекс массы тела в среднем ниже. Авторы исследования объясняют это влиянием циркадных ритмов — внутренних биологических часов организма.

Питание в первой половине дня лучше соответствует естественным процессам обмена веществ, что может способствовать более эффективному сжиганию калорий и контролю аппетита. Поздний завтрак и частые перекусы, напротив, связаны с более высоким индексом массы тела.

При этом исследователи подчёркивают, что пропуск завтрака не даёт такого же эффекта: у людей, которые практикуют интервальное голодание, отказываясь от утреннего приёма пищи, значимого снижения веса не наблюдается. По словам учёных, важную роль играет не только состав рациона, но и время приёма пищи.

Однако для подтверждения причинно-следственной связи необходимы дополнительные исследования. Ранее специалисты выяснили, что средиземноморская и MIND-диеты снижают риск болезни Альцгеймера.

Результаты исследования опубликованы в журнале Nature Aging (NA). «Зомби-клетками» называют стареющие иммунные клетки — макрофаги, которые утратили свои функции, но не погибли.

Они накапливаются в тканях и выделяют вещества, которые поддерживают воспаление. Учёные обнаружили, что с возрастом доля таких клеток в печени значительно увеличивается — с примерно 5% у молодых людей до 60–80% у пожилых.

Это совпадает с развитием хронических заболеваний. Кроме того, выяснилось, что высокий уровень холестерина может переводить здоровые клетки в «зомби-состояние».

Это помогает понять, почему жировая болезнь печени часто возникает из-за переедания и нарушений обмена веществ. В ходе эксперимента на мышах удаление «зомби-клеток» привело к улучшению состояния печени, даже без изменения рациона.

Авторы исследования считают, что это открытие может стать основой для новых методов лечения не только заболеваний печени, но и других возрастных болезней, связанных с хроническим воспалением. Ранее учёные выяснили, что соотношение глюкозы и холестерина может указывать на риск болезни печени.