Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Связывают бессонницу и сонливость с риском смерти и болезней
В журнале Sleep Health было опубликовано исследование, в котором учёные пришли к выводу, что сочетание бессонницы и сильной дневной сонливости может быть связано с повышенным риском смерти и сердечно-сосудистых заболеваний.

Для анализа использовались данные 495 398 участников UK Biobank. Вначале участники сообщали о симптомах бессонницы и дневной сонливости, после чего за их здоровьем наблюдали в среднем почти 15 лет.

За время наблюдения было зафиксировано более 51 тысячи смертей и почти столько же новых случаев сердечно-сосудистых заболеваний. У людей с бессонницей и дневной сонливостью риск смерти от любых причин оказался выше на 32 процента, риск смерти от сердечно-сосудистых заболеваний — на 28 процентов, а риск новых болезней сердца и сосудов — на 40 процентов.

Отдельные жалобы на бессонницу или дневную сонливость также были связаны с повышением рисков, но в меньшей степени. Авторы исследования считают, что при оценке здоровья важно учитывать не только отдельные жалобы на сон, но и их сочетание.

При этом исследование показывает связь, а не доказывает прямую причинно-следственную зависимость. Ранее учёные выяснили, что плохой ночной сон и долгий сон днём могут повышать риск развития жировой болезни печени.

Лента ру

Угроза кофейным плантациям: изменение климата
Эксперты, опубликовавшие свою работу в журнале Nature, утверждают, что изменение климата представляет серьёзную угрозу для кофейных плантаций.

Урожайность двух наиболее востребованных сортов кофе — арабики и робусты — значительно зависит от погодных условий. При небольшом повышении температуры арабика может завянуть, а в периоды засухи урожайность робусты резко падает.

Учёные стремятся повысить устойчивость кофейных сортов к климатическим изменениям. Одним из возможных решений является создание новых видов.

Также биологи предполагают, что в условиях меняющегося климата могут стать популярными некоторые из 134 диких видов кофе.

Московский комсомолец

Поддержи рацион для микробиоты и иммунитета
Учёные из Университета Барселоны выяснили, что питание, насыщенное клетчаткой и полифенолами, способствует поддержанию здоровья кишечной микробиоты и укреплению иммунной системы.

Результаты их исследования были опубликованы в журнале Nutrients. В ходе эксперимента самок крыс в течение девяти недель кормили пищей, в которую были добавлены ферментируемая клетчатка — инулин и пектин, а также смесь полифенолов, среди которых кверцетин, катехин, эпикатехин, нарингенин и гесперидин.

Специалисты изучали состояние кишечника, состав микробиоты, уровень короткоцепочечных жирных кислот и иммунные показатели. Выяснилось, что такой рацион не оказал влияния на массу тела, показатели крови, уровень липидов и структуру кишечника крыс.

Однако у животных увеличилась концентрация IgG — антител, которые участвуют в иммунной защите, изменился состав кишечных бактерий и повысилась выработка короткоцепочечных жирных кислот, в частности ацетата и пропионата. По мнению авторов, растительная пища, богатая клетчаткой и полифенолами, может способствовать поддержанию баланса между кишечной микробиотой и иммунной системой.

Тем не менее исследование проводилось на небольшой выборке и с участием крыс, поэтому его результаты требуют подтверждения для людей. Ранее стало известно, что антоцианы черники могут усиливать действие полезной кишечной бактерии.

Лента ру

Археолог теряет доверие полиции
Весной археологи возобновили исследования на месте захоронения, где ранее были обнаружены человеческие останки.

Однако на этот раз на месте сохранилась лишь примерно половина скелета, что существенно осложнило идентификацию. Ранее при раскопках останки в захоронении оказались перемешаны.

В марте под полом старинной церкви в Маастрихте обнаружили скелет рядом с французской монетой и следами мушкетной пули. Исследователи предположили, что нашли останки знаменитого капитана мушкетёров, погибшего во время осады Маастрихта в 1673 году.

Эта история вызвала большой резонанс. В мае нидерландская полиция задержала пожилого археолога Вима Дейкмана, руководившего раскопками.

Учёного заподозрили в сокрытии части костных останков после того, как он отказался передать городским властям несколько фрагментов скелета и зубы. Учёный объяснил свои действия опасениями за их сохранность при транспортировке.

После передачи находок полиции археолога отпустили. Сейчас без полного скелета и «чистого» археологического материала учёные не готовы утверждать, что под полом маастрихтской церкви действительно покоился герой легендарного романа Дюма.

Пока д'Артаньян остался только литературным персонажем, хотя и был недолго одной из самых красивых археологических загадок 2026 года.

Московский комсомолец