Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

В работе использовались данные 85,6 тысячи человек из британского проекта UK Biobank. Участники эксперимента носили специальные датчики для отслеживания сна, а учёные наблюдали за их здоровьем в течение восьми лет.

Оказалось, что люди, которые регулярно не высыпались и не восполняли недостаток сна, умирали чаще. Особенно велик был риск при сильном дефиците сна.

В то же время у тех, кто «отсыпался» после недосыпа, повышения риска смертности не было. Авторы исследования считают, что восстановительный сон может частично нивелировать негативные последствия нехватки сна для организма.

Наиболее заметная связь была у людей, которые изначально спали мало. Учёные подчёркивают, что их работа не говорит о пользе хронического недосыпания.

По их мнению, лучший вариант — регулярно спать по 7–9 часов. Однако если недосып всё же случился, дополнительный сон в ближайшие дни может помочь снизить потенциальный вред для здоровья.

Ранее стало известно, что слишком короткий или слишком длинный сон ускоряет старение организма.

Это открытие опубликовано в журнале Proceedings of the Royal Society B (PRSB). В рамках исследования учёные установили 174 фотоловушки в Чернобыльской зоне, а также в Древлянском заповеднике и на обычных территориях северной Украины.

Результаты показали, что наибольшее разнообразие животных наблюдается именно в зоне отчуждения и в соседнем заповеднике. Там чаще всего фиксировали рысей, волков, лосей, благородных оленей и даже лошадей Пржевальского.

Учёные подчёркивают, что ключевым фактором стало не радиационное загрязнение, а практически полное отсутствие людей. Ограниченный доступ, запрет на охоту и низкая хозяйственная активность позволили животным восстановить популяции и занять территории, где раньше они почти исчезли.

Показатели на небольших заповедных и обычных территориях были заметно ниже. Авторы работы считают, что исследование демонстрирует значимость крупных охраняемых территорий с минимальным вмешательством человека.

Ранее у животных из зоны отчуждения были обнаружены признаки ускоренной эволюции.

В эксперименте участвовали 15 человек в возрасте около 24 лет. Учёные изучали влияние однократного приёма экстракта чёрной смородины, содержащего 210 миллиграммов антоцианов, на сердечно-сосудистые и метаболические показатели в состоянии покоя и при умеренной физической нагрузке на беговой дорожке.

Антоцианы — это растительные пигменты, которые присутствуют в тёмных ягодах и обладают антиоксидантными и противовоспалительными свойствами. У части участников через два часа после приёма экстракта наблюдалось снижение общего периферического сопротивления сосудов.

У девяти человек этот показатель уменьшился в среднем на 17,5 процента, а у восьми увеличился сердечный выброс. Во время 30-минутной ходьбы заметного эффекта практически не было: частота сердечных сокращений снизилась всего на два удара в минуту, что авторы считают незначительным изменением.

Кроме того, экстракт не оказал влияния на расход кислорода, обмен жиров и углеводов. Исследователи отмечают, что однократный приём чёрной смородины может влиять на сосудистую регуляцию у некоторых людей, однако для достижения устойчивого эффекта, вероятно, необходим регулярный приём.

Выводы требуют подтверждения в более масштабных исследованиях.

Повышенный уровень этого вещества считается одним из основных факторов риска развития подагры и образования камней в почках. Исследователи решили выяснить, как разные источники пищевых волокон влияют на уровень мочевой кислоты у молодых людей.

В эксперименте участвовали 99 студентов, которых на восемь недель разделили на три группы. Первая группа регулярно употребляла овсянку, вторая — рис с резистентным крахмалом, а третья придерживалась обычного рациона.

При этом питание было составлено так, чтобы участники получали примерно одинаковое количество калорий и питательных веществ. Оказалось, что обе диеты с высоким содержанием клетчатки снижали уровень мочевой кислоты.

Однако овсянка оказалась заметно эффективнее: в среднем показатель уменьшился на 64,5 микромоля на литр, в то время как в группе с резистентным крахмалом снижение составило 39 микромолей. Дополнительный анализ показал, что эффект может быть связан с изменениями кишечной микрофлоры.

У людей, употреблявших овсянку, увеличивалось количество бактерий рода Dialister, а также менялся уровень связанных с ними метаболитов. Авторы исследования считают, что именно эти изменения могут помогать организму эффективнее снижать уровень мочевой кислоты.

Ранее учёные выяснили, что двухдневный рацион, состоящий исключительно из овсянки, способствует снижению уровня плохого холестерина.