Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Они использовали методы машинного обучения для анализа связи между погодой и частотой сердечных приступов. Результаты опубликованы в журнале Frontiers in Cardiovascular Medicine (FCM).

Учёные изучили данные 11 527 пациентов с инфарктом, зарегистрированных в одном из кардиологических центров Пекина за 10 лет, и сопоставили их с ежедневными метеорологическими показателями. Анализ показал, что дни с большим числом инфарктов чаще были с низкой температурой, сильными суточными перепадами температуры и слабым ветром.

Кроме того, в такие дни была меньшая влажность и количество осадков. Модель машинного обучения Random Forest помогла выявить ключевые погодные факторы, связанные с повышенным риском инфаркта.

Суточный перепад температуры оказался наиболее важным параметром, который сильнее всего влиял на вероятность роста числа случаев инфаркта. Авторы работы считают, что такие модели могут помочь системам здравоохранения прогнозировать периоды повышенной нагрузки на кардиологические службы и заранее распределять медицинские ресурсы.

В будущем учёные планируют улучшить точность прогнозов, добавив к погодным данным информацию о возрасте, заболеваниях и других характеристиках пациентов.

К такому заключению пришли исследователи, изучив данные клинических испытаний. Их работа опубликована в журнале Psychiatry and Clinical Neurosciences (PCN).

Обструктивное апноэ сна — это распространённое нарушение, при котором во время сна происходит временное перекрытие дыхательных путей. Это приводит к снижению уровня кислорода и частым пробуждениям.

У многих пациентов с этим заболеванием также наблюдаются симптомы бессонницы, что известно как COMISA. Из-за риска ухудшения дыхания врачи долгое время с осторожностью назначали снотворные таким пациентам.

В новом анализе учёные сравнили 12 различных препаратов на основе данных 32 рандомизированных клинических исследований. Они оценивали влияние лекарств на структуру сна, дыхательные показатели и переносимость терапии.

В большинстве случаев препараты не приводили к заметному ухудшению ключевых показателей дыхания, включая индекс апноэ-гипопноэ. Однако исследование показало, что некоторые средства могут действовать по-разному.

Например, препарат темазепам был связан со снижением уровня кислорода во время сна. Авторы работы считают, что результаты подчёркивают необходимость индивидуального подбора терапии.

Выбор лекарства должен зависеть от конкретных симптомов бессонницы и состояния дыхательной системы пациента. Ранее учёные выяснили, что свежие фрукты, овощи и молочные продукты улучшают качество сна.

В исследовании участвовали 1747 взрослых с недавно подтверждённым COVID-19 и 277 членов их семей. Участников случайным образом распределили на две группы: одна получала высокие дозы витамина D3 в течение четырёх недель, другая — плацебо.

При этом добавка не снизила тяжесть заболевания, частоту госпитализаций или риск заражения у контактировавших людей. Однако при дополнительном анализе учёные обнаружили возможный эффект в отношении долгого COVID.

Среди участников, которые строго соблюдали режим приёма витамина D, длительные симптомы через восемь недель наблюдались у 21 процента, тогда как в группе плацебо — у 25 процентов. Авторы работы подчёркивают, что результаты не подтверждают способность витамина D предотвращать тяжёлое течение инфекции, но указывают на потенциальную роль добавки в снижении риска долгосрочных последствий COVID-19, таких как хроническая усталость, одышка и когнитивные нарушения.

Учёные отмечают, что для окончательных выводов потребуются более масштабные исследования.

Они показали, что добавка с пребиотической клетчаткой инулином помогает уменьшить боль в колене и улучшить физическую функцию у пациентов с остеоартритом коленного сустава. Результаты исследования опубликованы в журнале Nutrients.

В шестинедельном рандомизированном исследовании приняли участие 117 взрослых с остеоартритом коленного сустава. Участники были разделены на четыре группы: одна получала инулин, другая занималась цифровой физиотерапией, третья совмещала оба подхода, а четвёртая получала плацебо.

Оказалось, что ежедневный приём инулина снижал боль и чувствительность к ней, а также улучшал силу хвата — показатель общей физической функции. Инулин является пребиотиком — веществом, которое служит пищей для полезных бактерий кишечника.

Под действием этих бактерий образуются короткоцепочечные жирные кислоты, включая бутират, способный влиять на воспалительные процессы и механизмы восприятия боли. У участников, принимавших добавку, также повышался уровень гормона GLP-1, который связан с регуляцией боли и состоянием мышц.

Особенностью исследования стала высокая приверженность лечению: из группы с инулином выбыло всего 3,6% участников, тогда как в группе физиотерапии — 21%. По мнению учёных, это показывает, что простая пищевая добавка может стать удобным дополнением к существующим методам лечения артрита и открыть новые подходы к контролю хронической боли.