Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Микропластик влияет на иммунитет
Учёные из Медицинского университета Вены выяснили, что микропластик может не только накапливаться в лёгких, но и влиять на работу иммунной системы, усиливая воспалительные процессы и аллергические реакции.

Результаты исследования опубликованы в журнале Journal of Hazardous Materials Advances (JHMA). В экспериментах на мышах исследователи изучали воздействие микрочастиц полиэтилентерефталата (ПЭТ) — распространённого вида пластика, который используется в бутылках, упаковке и текстиле.

Частицы вводили через дыхательные пути и отслеживали их перемещение в организме. Оказалось, что после однократного попадания в организм микропластик сохранялся в лёгких не менее двух недель.

За это время у животных развивалась воспалительная реакция, сопровождавшаяся увеличением числа лимфоцитов и эозинофилов — иммунных клеток, которые играют важную роль в развитии аллергии. Когда воздействие микропластика сочетали с пыльцой амброзии — распространённым аллергеном, воспаление дыхательных путей становилось более выраженным.

Дополнительные эксперименты показали, что частицы пластика могут изменять системный иммунный ответ организма, влияя на выработку антител против аллергенов. Авторы исследования утверждают, что результаты свидетельствуют о том, что микропластик не является пассивным загрязнителем.

По их словам, попадая в организм, он может активно вмешиваться в иммунные процессы, связанные с развитием и усилением аллергических реакций.

Лента ру

Нейросеть
Препараты побеждают анемию и опухоли
Учёные из Университета Оулу и Университета Восточной Финляндии выяснили, что препараты для лечения анемии у пациентов с хроническими заболеваниями почек могут оказывать противоопухолевое действие.

Результаты исследования опубликованы в журнале Redox Biology (RB). Препараты относятся к классу HIF-PHI и стимулируют образование эритроцитов, помогая организму справляться с нехваткой кислорода.

В ходе экспериментов исследователи обнаружили, что эти лекарства не только борются с анемией, но и замедляют рост клеток, а также препятствуют образованию новых кровеносных сосудов, которые необходимы опухолям для развития. Учёных особенно удивило, что этот эффект сохранялся даже при отсутствии белков, через которые препараты, как считалось ранее, должны были действовать.

Это говорит о существовании ранее неизвестных механизмов влияния лекарств на клеточный метаболизм и рост тканей. Авторы исследования подчёркивают, что открытие может иметь большое значение для онкологии.

У многих пациентов с раком одновременно наблюдается анемия, вызванная самой опухолью или химиотерапией. Если дальнейшие исследования подтвердят результаты, то один препарат сможет одновременно корректировать анемию и подавлять развитие опухоли.

Ранее учёные выяснили, что поддержание нормального веса и физическая активность снижают риск смерти от рака.

Лента ру

Терапия уменьшает возрастное воспаление мозга
В научном журнале Journal of Extracellular Vesicles (JEV) были опубликованы результаты исследования, согласно которым экспериментальная терапия с использованием внеклеточных везикул, полученных из человеческих нейральных стволовых клеток, может уменьшать возрастное воспаление мозга и улучшать память.

С возрастом в мозге возникает хроническое слабовыраженное воспаление, которое ассоциируется с ухудшением памяти и снижением когнитивных способностей. Учёные решили проверить, сможет ли назальное введение внеклеточных везикул — микроскопических частиц, содержащих терапевтические молекулы, — замедлить эти процессы.

Пожилым мышам ввели две дозы препарата через нос. После лечения в гиппокампе — области мозга, отвечающей за память и обучение, — снизились признаки воспаления и окислительного стресса.

У животных также уменьшилась активность молекулярных путей, которые считаются ключевыми факторами возрастных изменений мозга. Одновременно повысилась активность генов, связанных с энергетическим обменом и защитой нервных клеток.

Анализ показал, что микроРНК, содержащиеся во внеклеточных везикулах, подавляют механизмы, запускающие хроническое воспаление. Кроме того, исследователи зафиксировали перестройку работы иммунных клеток мозга — микроглии, которая стала менее склонной поддерживать воспалительные процессы.

Эти изменения сопровождались улучшением памяти и когнитивных функций у животных. Авторы исследования считают, что такая терапия может стать перспективным способом борьбы с возрастным снижением работы мозга.

Лента ру

Улучшай обмен веществ с куркумином и льняным маслом
Учёные из Тайбэйского медицинского университета выяснили, что сочетание куркумина и льняного масла может способствовать улучшению жирового обмена и снижению накопления жира в печени при рационе с высоким содержанием жиров и холестерина.

Исследование опубликовано в журнале Nutrients. Эксперимент проводился на сирийских хомяках, которых в течение восьми недель кормили пищей с высоким содержанием жиров и холестерина.

Часть животных дополнительно получала смесь куркумина и льняного масла в низкой или высокой дозе. У животных, получавших добавку, снизились уровни триглицеридов, общего холестерина и «плохого» холестерина LDL в крови.

Также у них уменьшилось накопление триглицеридов и холестерина в печени. Наиболее заметный эффект наблюдался в группе с высокой дозой смеси.

Исследователи установили, что добавка усиливала выведение жиров и холестерина с калом, а также меняла липидный профиль крови и печени. По мнению авторов, льняное масло могло улучшать усвоение жирорастворимого куркумина и одновременно дополнять его действие за счёт омега-3 жирных кислот.

Учёные подчёркивают, что результаты получены на животных, поэтому переносить их напрямую на людей нельзя. Однако работа показывает, что комбинация куркумина и льняного масла может быть перспективной пищевой стратегией для поддержки печени и контроля нарушений жирового обмена.

Ранее стало известно, что куркумин снижает повреждение сердца и нарушения ритма при тепловом ударе.

Лента ру

Другие новости