Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лимфедема — это хроническое заболевание, при котором лимфатическая система не справляется с отводом жидкости из тканей, что приводит к отёчности, воспалению, боли и риску инфекций в руках, ногах и других частях тела. В ходе исследования учёные изучили влияние ферментированного чая любао на лимфатические эндотелиальные клетки, которые выстилают лимфатические сосуды.

Выяснилось, что при лимфедеме значительно повышается активность белка PRKCB, который связан с воспалением и нарушением обмена веществ. Экстракт чая любао снижал активность этого белка и улучшал способность клеток восстанавливаться после воспалительного повреждения.

Особенно заметный эффект продемонстрировали соединения чая, такие как тилирозид и кверцетин. Однако результаты были получены только в ходе клеточных экспериментов, поэтому говорить о применении чая для лечения людей пока рано.

Тем не менее авторы исследования считают, что любао может стать перспективным функциональным продуктом для поддержки работы лимфатической системы. Ранее учёные выяснили, что китайский чай кудин обладает защитными свойствами и может предотвращать развитие подагры и заболеваний почек.

Результаты исследования опубликованы в журнале JAMA Network Open. В работе проанализированы электронные медицинские карты более 840 тысяч пациенток с раком молочной железы, диагностированным в период с 2006 по 2023 год.

Особое внимание было уделено женщинам с ожирением или диабетом второго типа, которые принимали препараты GLP-1. Выяснилось, что использование таких лекарств было связано с более низким риском смерти в течение 10 лет наблюдения.

Также у пациенток, принимавших препараты для похудения или контроля диабета, реже происходил рецидив рака после лечения. Авторы работы подчёркивают, что пока речь идёт только о выявленной связи, а не о доказанном лечебном эффекте.

Учёные планируют провести клинические испытания, чтобы выяснить, связано ли влияние препаратов с потерей веса, улучшением работы сердца или другими биологическими механизмами. Ранее стало известно, что антоцианы из тёмной сладкой вишни замедляют рост рака молочной железы.

Они использовали алгоритм искусственного интеллекта RetiAGE, который определяет «возраст» сетчатки по фотографиям глазного дна. Сначала учёные изучили данные почти двух тысяч пожилых жителей Сингапура.

Затем проверили выводы на базе UK Biobank с участием более 43 тысяч человек. Выяснилось, что у людей с более «старой» сетчаткой чаще снижена минеральная плотность костей, повышен риск переломов и выше вероятность развития остеопороза в будущем.

Согласно исследованию, каждое увеличение показателя RetiAGE повышает риск развития заболевания примерно на 12 процентов. Авторы работы полагают, что снимки сетчатки могут быть простым и неинвазивным методом раннего выявления остеопороза.

Сейчас заболевание часто диагностируют уже после переломов, так как стандартное обследование костей остаётся дорогостоящим и не всегда доступным. Ранее стало известно, что остеопороз увеличивает риск ранней смерти у женщин после менопаузы.

Информацию об этом опубликовали в журнале Device. Инновационный биоэлектронный имплантат, сопоставимый по размеру с кончиком пальца, фиксируется на сонной артерии и влияет на барорецепторы — нервные окончания, способствующие регуляции давления в организме.

Этот прибор изготовлен с использованием 3D-принтера из мягкого гидрогеля, что позволяет ему растягиваться вместе с тканями и не наносить вред сосудам. В ходе экспериментов на крысах было установлено, что имплантат снижает давление более чем на 15 процентов.

Кроме того, исследователи выяснили, что через две недели вокруг устройства не наблюдалось признаков воспаления или повреждений тканей. Авторы разработки полагают, что эта технология может быть полезна для людей, страдающих устойчивой гипертонией, когда медикаментозное лечение оказывается малоэффективным.

В настоящее время учёные готовятся к последующим испытаниям и намерены адаптировать имплантат для применения у людей. Ранее сообщалось, что употребление небольших доз масла перечной мяты способствует снижению артериального давления.