Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Учёные изучили данные более 1,3 миллиона жителей Южной Кореи старше 40 лет, наблюдение за которыми проводилось с 2013 по 2024 год. Выяснилось, что риск развития деменции повышен у всех пациентов с диабетом.

Особенно заметна связь у людей с диабетом первого типа и у пациентов со вторым типом, использующих инсулин. Например, люди с диабетом второго типа, принимающие таблетированные препараты, сталкивались с деменцией примерно в 1,3 раза чаще по сравнению с людьми без диабета.

У пациентов с диабетом второго типа на инсулине риск был выше уже в 2,1 раза, а при диабете первого типа — в 2,4 раза. Аналогичная тенденция наблюдалась и для болезни Альцгеймера, и для сосудистой деменции.

Авторы исследования считают, что одной из причин могут быть резкие колебания уровня глюкозы и эпизоды гипогликемии у пациентов на инсулинотерапии. Учёные полагают, что более тщательный контроль сахара в крови и использование систем непрерывного мониторинга глюкозы могут помочь снизить риск когнитивных нарушений в будущем.

Учёные изучали влияние гриба Pleurotus eryngii на микроглию — клетки мозга, отвечающие за иммунную защиту и активирующиеся при воспалениях. В ходе экспериментов экстракты гриба снизили выработку таких молекул воспаления, как TNF-α и нитриты, а также подавили активность белков iNOS, NOX2 и NLRP3, которые связаны с нейровоспалением и развитием нейродегенеративных процессов.

Наиболее заметный эффект показали экстракты с высоким содержанием N-ацетилтриптамина (NAT). По мнению исследователей, NAT, имеющий структурное сходство с серотонином и мелатонином, может участвовать в регуляции воспалительных процессов в мозге.

Кроме того, положительное воздействие оказал эрготионеин — антиоксидант, присутствующий в грибах в значительных количествах. Авторы статьи считают, что королевская вешенка может быть рассмотрена как перспективный продукт для поддержания здоровья мозга и предотвращения возрастных нарушений.

Ранее было установлено, что грибы способствуют улучшению кратковременной и рабочей памяти у пожилых людей.

Это одна из наиболее опасных бактерий, устойчивых к антибиотикам. Исследователи выяснили, что кандесартан цилексетил нарушает целостность клеточной мембраны MRSA: делает её менее стабильной, изменяет липидный состав и повышает проницаемость оболочки.

В итоге клетка хуже поддерживает внутреннее равновесие и становится уязвимой. Особенно важно, что препарат усиливает действие некоторых антибиотиков, включая гентамицин и полимиксин B.

В экспериментах такая комбинация быстрее уничтожала активно делящиеся клетки MRSA и воздействовала даже на более устойчивые «спящие» бактериальные формы. Учёные проверили действие вещества на модели инфекции у мышей: кандесартан цилексетил снижал размножение MRSA, а в сочетании с гентамицином эффект был сильнее.

Авторы исследования подчёркивают, что пока речь не идёт о готовом лечении инфекций у людей, но препарат может стать основой для разработки новых средств против антибиотикоустойчивых бактерий.

Это выяснили исследователи, опубликовавшие свою работу в журнале Food & Function (F&F). Учёные изучали, как куркумин влияет на крыс с тепловым ударом.

У животных зафиксировали повышение температуры тела, ухудшение работы сердца, повреждение сердечной мышцы и желудочковые аритмии — опасные нарушения сердечного ритма. Но после введения куркумина многие показатели заметно улучшились.

Исследование показало, что вещество снижает уровень повреждения клеток сердца, улучшает электрическую стабильность миокарда и повышает выживаемость. Также анализы показали уменьшение процессов клеточной гибели, которые связаны с активацией пути BAX/BCL-2/caspase-3 — одного из ключевых механизмов разрушения клеток при сильном перегреве организма.

Авторы работы подчёркивают, что тепловой удар часто сопровождается тяжёлыми осложнениями со стороны сердца, а специфических препаратов для его лечения пока нет. Исследователи считают, что куркумин может стать перспективной основой для будущих методов защиты сердца при перегреве, но эффективность такого подхода нужно подтвердить в клинических исследованиях на людях.

Ранее учёные выяснили, что куркума, шафран и другие приправы снижают выраженность депрессии.