Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Учёные обнаружили, что накопление EPA в мозге после употребления рыбьего жира связано с нарушением восстановления сосудов, ухудшением кровоснабжения и признаками когнитивного снижения после травмы. В экспериментах на животных было выявлено, что DHA, другая омега-3 кислота, в отличие от EPA, не так активно вовлекается в обменные процессы после повреждения и не мешает нормальному ремонту сосудистой системы.

Учёные также выяснили, что EPA нарушает работу эндотелиальных клеток — клеток, выстилающих сосуды. В условиях, похожих на состояние после травмы, она снижает способность сосудов к восстановлению и росту.

Это может ухудшать питание тканей мозга и повышать уязвимость к долгосрочным последствиям. Авторы подчёркивают, что результаты исследования не означают, что омега-3 всегда вредны.

Они указывают на то, что эффект этих добавок зависит от состояния организма. При травмах мозга отдельные компоненты рыбьего жира могут не только работать иначе, чем ожидалось, но и потенциально наносить вред.

Ранее учёные выяснили, что регулярный приём рыбьего жира снижает риск развития жировой болезни печени.

Речь идёт об экзосомах — микроскопических частицах, которые содержатся в молоке. В ходе эксперимента на животных было обнаружено, что экзосомы уменьшают симптомы аллергии, в том числе снижают температуру тела и уровень иммунных маркеров, связанных с аллергической реакцией.

Кроме того, наблюдалось подавление избыточного иммунного ответа, который является причиной развития аллергии. Экзосомы также улучшали состояние кишечника: снижали повреждение тканей, укрепляли межклеточные соединения и уменьшали проникновение воспалительных клеток.

При этом менялся состав микробиоты — увеличивалось разнообразие бактерий и росло количество полезных микроорганизмов, в том числе лактобацилл. Авторы исследования подчёркивают, что эффект связан с восстановлением баланса иммунной системы и поддержанием здоровья кишечника.

Они считают, что такие компоненты могут стать основой для разработки новых подходов к профилактике и лечению пищевой аллергии. Ранее учёные установили, что употребление цельного молока снижает риск ожирения у детей.

Результаты их работы были опубликованы в журнале Pain. Ощущение «психологического поражения», когда человек чувствует бессилие перед болью и теряет уверенность в будущем, усиливает хроническую боль.

Люди, испытывающие это состояние, начинают больше концентрироваться на неприятных ощущениях, реже участвуют в повседневной активности и воспринимают боль как фактор, который разрушает их жизнь и личность. Анализ данных 137 пациентов с хронической болью показал, что существует замкнутый круг: чем сильнее чувство беспомощности, тем больше внимания уделяется боли.

Это, в свою очередь, усиливает негативные мысли и снижает активность. Такой эффект наблюдался независимо от реальной интенсивности боли или уровня стресса.

Авторы исследования подчёркивают, что работа с психологическим состоянием может стать важной частью терапии. Они считают, что своевременная поддержка и изменение отношения к боли способны разорвать этот цикл и снизить уровень страданий, даже если сама боль полностью не исчезает.

Результаты исследования опубликованы в журнале Diabetes Care (DC). Даже непродолжительные интенсивные движения, например, быстрый подъём по лестнице или перенос тяжёлых сумок, длительностью менее четырёх минут в день, снижают риск заболевания более чем на треть.

Такие «микронагрузки» могут занимать всего 30–60 секунд, но при регулярном повторении оказывают заметное влияние. Анализ данных более чем 22 тысяч человек, не занимавшихся спортом, показал, что чем чаще в течение дня происходят короткие всплески активности, тем меньше вероятность развития диабета.

В среднем около 10 коротких интенсивных эпизодов в день снижают риск на 36 процентов, а более частые и длительные — до 41 процента. Авторы исследования подчёркивают, что речь не идёт о тренировках в привычном смысле — важны регулярные движения в повседневной жизни.

Такой подход может быть особенно полезен для людей, которым сложно заниматься спортом. Однако для достижения устойчивого эффекта активность должна стать частью ежедневной рутины.

Ранее учёные выяснили, что регулярное употребление фруктов и овощей снижает риск преддиабета.