Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Учёные экспериментировали со стевиозидом на модельных организмах — нематодах Caenorhabditis elegans, которые часто используют для изучения старения. Выяснилось, что вещество увеличивает продолжительность жизни червей и улучшает их здоровье в зависимости от дозы.

Кроме того, исследователи обнаружили, что стевиозид повышает устойчивость клеток к окислительному стрессу — одному из основных факторов старения. У организмов снизился уровень активных форм кислорода и повысилась активность антиоксидантных ферментов.

Учёные связывают этот эффект с активацией механизма защиты митохондрий, который помогает клеткам справляться с повреждёнными белками. По мнению исследователей, стевиозид может быть потенциальным кандидатом для профилактики возрастных заболеваний и нейродегенеративных нарушений, но пока результаты получены только на лабораторной модели.

Ранее учёные выяснили, что как слишком короткий, так и слишком долгий сон ускоряют старение организма.

Работа опубликована в журнале NPJ Emerging Contaminants. Специалисты изучили воду после кипячения в восьми новых чайниках из полипропилена.

Выяснилось, что уже после первого кипячения в одном миллилитре воды содержится почти 12 миллионов пластиковых наночастиц. По подсчётам авторов, в одной чашке чая их количество может достигать примерно 3 миллиардов.

Количество частиц постепенно снижалось после многократного кипячения. После 50 циклов уровень микропластика становился значительно ниже, но полностью не исчезал.

Учёные также обнаружили, что жёсткая вода с минералами может уменьшать выделение пластика из-за образования накипи на стенках чайника. Авторы рекомендуют несколько раз прокипятить и слить воду перед первым использованием нового пластикового чайника.

Исследователи считают, что производители должны более чётко предупреждать покупателей о возможном выделении микропластика и способах снижения риска. Ранее учёные выяснили, что микропластик может повышать воспаление в мозге и увеличивать риск развития болезни Паркинсона.

Обсуждение версии о лабораторном происхождении вируса началось после вспышки инфекции на нидерландском круизном лайнере MV Hondius, который следовал из Аргентины в Кабо-Верде. Всемирная организация здравоохранения сообщила о 11 случаях заражения хантавирусом, в девяти из них подтвердился вариант Андес.

Трое человек не выжили. По словам специалиста, чтобы сделать выводы о возможном искусственном происхождении вируса, нужно сначала секвенировать его геном, сравнить с уже известными штаммами и оценить характер мутаций.

Таких данных пока нет, поэтому говорить о лабораторном происхождении преждевременно. Хантавирусы обычно попадают к человеку через контакт с грызунами или продуктами их жизнедеятельности.

Они могут вызывать тяжёлые заболевания, такие как геморрагическая лихорадка с почечным синдромом и хантавирусный лёгочный синдром. Вирус Андес — один из наиболее редких, но при этом опасных вариантов, так как способен передаваться от человека к человеку при тесном контакте.

Ранее Онищенко заявил, что разработка вакцины от хантавируса займёт долгие годы.

Учёные наблюдали почти за 700 детьми из Испании в течение примерно 3,4 года. Родители подробно сообщали о рационе детей, а исследователи анализировали долю ультрапереработанных продуктов — сладких хлопьев, газировки, упакованных снеков, фастфуда и других продуктов промышленной переработки.

Результаты показали, что существует чёткая связь между потреблением такой еды и риском развития астмы в младшем школьном возрасте. У детей с самым высоким потреблением ультрапереработанных продуктов вероятность заболевания была почти в четыре раза выше по сравнению с детьми, которые ели их реже.

При этом связи между такой пищей и другими аллергическими заболеваниями учёные не обнаружили. Авторы предполагают, что ультрапереработанные продукты могут провоцировать воспалительные процессы, которые напрямую влияют на дыхательные пути и лёгкие.

Исследователи считают, что ограничение подобной еды в детском рационе может стать одной из мер профилактики астмы. Ранее учёные выяснили, что снижение потребления сахара в детстве снижает риски развития астмы и ХОБЛ.