Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Связь ультраобработанной пищи со смертностью выяснили учёные
В журнале Frontiers in Nutrition опубликованы результаты исследования, в котором учёные проанализировали данные свыше 86 тысяч человек.

Они выяснили, что частое употребление ультраобработанных продуктов связано с увеличением риска преждевременной смерти. За участниками наблюдали в течение 17 лет, и за это время было зафиксировано более 24 тысяч случаев смерти.

К ультраобработанным продуктам относятся сладкие газированные напитки, многие готовые завтраки, снеки, полуфабрикаты и другие промышленно произведённые продукты с большим количеством добавок. Люди, которые потребляли больше всего такой пищи, имели на 10 процентов более высокий риск смерти от любых причин по сравнению с теми, кто ел её меньше всего.

Кроме того, у них был повышен риск смерти от сердечно-сосудистых заболеваний (на 9 процентов), болезней нервной системы, включая нейродегенеративные нарушения (на 20 процентов), и других заболеваний (на 28 процентов). При этом учёные не обнаружили связи между потреблением таких продуктов и смертностью от рака.

Сладкие газированные напитки и ультраобработанные зерновые продукты вносили наибольший вклад в неблагоприятные последствия. Однако качественный рацион с большим количеством овощей, фруктов, цельнозерновых продуктов и других полезных продуктов частично ослаблял негативное влияние такой пищи.

Авторы исследования подчёркивают, что его результаты подтверждают возможность связи между регулярным употреблением ультраобработанных продуктов и ухудшением здоровья, а также сокращением продолжительности жизни.

Лента ру

Нейросеть
Создана новая генная терапия против холестерина
Британские учёные объявили о положительных результатах тестирования новой генной терапии для борьбы с высоким уровнем холестерина.

Лекарство под названием VERVE-102 вводится однократно внутривенно и способно значительно снизить уровень «плохого» холестерина на длительный срок. Информация об этом опубликована в журнале New England Journal of Medicine (NEJM).

«Плохой» холестерин — это липопротеины низкой плотности (ЛПНП). Их избыток может привести к накоплению холестерина на стенках сосудов и увеличению риска инфаркта и инсульта.

Пациентам с высоким уровнем ЛПНП обычно приходится на протяжении многих лет принимать лекарства или делать инъекции, однако такое лечение может быть сложным для соблюдения. Новая терапия временно активирует в организме механизм для редактирования гена, отвечающего за выработку белка PCSK9 в печени.

Этот белок препятствует очищению крови от «плохого» холестерина. При его «выключении» печень начинает более эффективно удалять ЛПНП из кровотока.

В исследовании приняли участие 35 взрослых с наследственно высоким уровнем холестерина или ранними проявлениями сердечно-сосудистых заболеваний. В максимальной дозировке препарат снизил уровень ЛПНП на 62%.

У некоторых участников эффект сохранялся в течение 18 месяцев наблюдения. Не было обнаружено серьёзных побочных эффектов, связанных с высокой дозой терапии, однако у части пациентов отмечались лёгкие реакции на введение и временные изменения показателей печени.

Авторы подчёркивают, что это ранняя стадия испытаний, и препарат должен пройти более масштабные исследования.

Лента ру

Микропластик влияет на иммунитет
Учёные из Медицинского университета Вены выяснили, что микропластик может не только накапливаться в лёгких, но и влиять на работу иммунной системы, усиливая воспалительные процессы и аллергические реакции.

Результаты исследования опубликованы в журнале Journal of Hazardous Materials Advances (JHMA). В экспериментах на мышах исследователи изучали воздействие микрочастиц полиэтилентерефталата (ПЭТ) — распространённого вида пластика, который используется в бутылках, упаковке и текстиле.

Частицы вводили через дыхательные пути и отслеживали их перемещение в организме. Оказалось, что после однократного попадания в организм микропластик сохранялся в лёгких не менее двух недель.

За это время у животных развивалась воспалительная реакция, сопровождавшаяся увеличением числа лимфоцитов и эозинофилов — иммунных клеток, которые играют важную роль в развитии аллергии. Когда воздействие микропластика сочетали с пыльцой амброзии — распространённым аллергеном, воспаление дыхательных путей становилось более выраженным.

Дополнительные эксперименты показали, что частицы пластика могут изменять системный иммунный ответ организма, влияя на выработку антител против аллергенов. Авторы исследования утверждают, что результаты свидетельствуют о том, что микропластик не является пассивным загрязнителем.

По их словам, попадая в организм, он может активно вмешиваться в иммунные процессы, связанные с развитием и усилением аллергических реакций.

Лента ру

Нейросеть
Препараты побеждают анемию и опухоли
Учёные из Университета Оулу и Университета Восточной Финляндии выяснили, что препараты для лечения анемии у пациентов с хроническими заболеваниями почек могут оказывать противоопухолевое действие.

Результаты исследования опубликованы в журнале Redox Biology (RB). Препараты относятся к классу HIF-PHI и стимулируют образование эритроцитов, помогая организму справляться с нехваткой кислорода.

В ходе экспериментов исследователи обнаружили, что эти лекарства не только борются с анемией, но и замедляют рост клеток, а также препятствуют образованию новых кровеносных сосудов, которые необходимы опухолям для развития. Учёных особенно удивило, что этот эффект сохранялся даже при отсутствии белков, через которые препараты, как считалось ранее, должны были действовать.

Это говорит о существовании ранее неизвестных механизмов влияния лекарств на клеточный метаболизм и рост тканей. Авторы исследования подчёркивают, что открытие может иметь большое значение для онкологии.

У многих пациентов с раком одновременно наблюдается анемия, вызванная самой опухолью или химиотерапией. Если дальнейшие исследования подтвердят результаты, то один препарат сможет одновременно корректировать анемию и подавлять развитие опухоли.

Ранее учёные выяснили, что поддержание нормального веса и физическая активность снижают риск смерти от рака.

Лента ру

Другие новости