Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Бабл-ти влияет на тревожность подростков
Китайские учёные опубликовали в журнале Nutrients результаты исследования, согласно которым регулярное употребление бабл-ти может повышать риск тревожности у подростков.

В работе приняли участие 11 847 подростков в возрасте от 12 до 18 лет. Участники исследования сообщали, как часто они пьют бабл-ти, а также проходили опросы для оценки уровня тревожности и качества сна.

Оказалось, что среди подростков, которые употребляли напиток 1–2 раза в неделю, симптомы тревожности встречались чаще, чем среди тех, кто не пил его вовсе. У любителей бабл-ти, которые покупали его не менее трёх раз в неделю, вероятность тревожности была выше на 53 процента по сравнению с теми, кто не употреблял напиток так часто.

Исследователи также обнаружили зависимость: чем чаще подростки употребляли бабл-ти, тем выше был риск тревожности. Каждый дополнительный день употребления напитка в неделю был связан примерно с 10-процентным увеличением вероятности тревожных симптомов.

При этом связь сохранялась независимо от пола, возраста, места проживания и массы тела подростков. Дополнительный анализ показал, что часть этой связи может объясняться нарушениями сна.

По мнению авторов исследования, кофеин и сахар, содержащиеся в напитке, могут влиять на качество отдыха, что, в свою очередь, связано с эмоциональным состоянием. Учёные подчёркивают, что исследование не доказывает причинно-следственную связь между употреблением бабл-ти и тревожностью, однако указывает на необходимость дальнейшего изучения влияния популярных сладких напитков на психическое здоровье подростков.

Лента ру

Контрацептивы влияют на пищевое поведение женщин
Учёные выяснили, что приём комбинированных оральных контрацептивов может способствовать усилению эпизодов переедания у определённых женщин.

Этот вывод был сделан на основе исследования, результаты которого опубликованы в журнале JAMA Network Open. В эксперименте приняли участие 422 женщины, которые употребляли противозачаточные таблетки, содержащие синтетические аналоги эстрогена и прогестина.

Специалисты наблюдали за изменениями в пищевом поведении участниц в течение 49 дней. Они сравнивали периоды приёма активных гормональных таблеток с днями, когда женщины употребляли таблетки плацебо без гормонов.

Выяснилось, что во время приёма активных таблеток у женщин чаще возникало эмоциональное переедание — состояние, при котором человек ест больше из-за стресса, тревоги или других негативных эмоций. Особенно ярко этот эффект проявлялся у участниц, которые уже имели склонность к перееданию.

Однако исследователи подчёркивают, что такой эффект наблюдался не у всех женщин. Авторы исследования отмечают, что противозачаточные таблетки остаются безопасным и эффективным методом контрацепции для большинства пациенток.

Примечательно, что ежедневное отслеживание своего пищевого поведения помогало снизить выраженность симптомов даже во время приёма гормональных таблеток.

Лента ру

Эксперт оценил прогноз о сокращении населения Земли
Андрей Коротаев, директор Центра изучения стабильности и рисков НИУ ВШЭ, философ и демограф, в беседе с «Ридусом» прокомментировал прогноз итальянских учёных о сокращении населения Земли к 2064 году.

В исследовании Миланского университета утверждается, что при сокращении ресурсов население Земли уменьшится вдвое менее чем через 40 лет. Коротаев считает такой сценарий маловероятным и полагает, что в ближайшие годы рост населения планеты будет продолжаться.

Он отметил, что рост будет происходить в основном за счёт тропической Африки, так как в этом регионе сохраняется высокая рождаемость — 4–5 детей на женщину. Снижение этого показателя происходит медленно.

По словам Коротаева, согласно прогнозу ООН, естественная убыль населения в мировом масштабе начнётся ближе к концу 2080-х годов. Ранее учёные заявляли, что численность населения превысила уровень, который Земля может поддерживать.

Они считают, что при современных условиях оптимальная численность населения составляет около 2,5 миллиарда человек, в то время как фактическое население Земли уже превысило 8 миллиардов.

Лента ру

Нейросеть
Тренировки снижают риск сердечно-сосудистых заболеваний у женщин
Учёные опубликовали в журнале JACC результаты исследования, согласно которым регулярные силовые тренировки снижают риск развития серьёзных сердечно-сосудистых заболеваний у женщин.

Эффект особенно заметен у тех, кто сочетает упражнения с отягощениями и аэробные нагрузки. Исследователи изучили данные 117 тысяч женщин из двух крупных американских проектов наблюдения.

Участницы регулярно сообщали о своих физических нагрузках, а учёные отслеживали случаи инфаркта, инсульта и других сердечно-сосудистых заболеваний. Силовыми тренировками считались занятия с гантелями, тренажёрами, эспандерами или собственным весом.

Выяснилось, что женщины, которые уделяли силовым упражнениям не менее двух часов в неделю, имели на 20 процентов более низкий риск серьёзных сердечно-сосудистых заболеваний и на 44 процента более низкий риск инфаркта по сравнению с теми, кто не тренировался. Каждый дополнительный час таких занятий в неделю был связан с уменьшением риска инфаркта ещё на 14 процентов.

Наиболее благоприятные результаты наблюдались у женщин, которые одновременно выполняли рекомендации по аэробной активности, занимались силовыми тренировками и меньше времени проводили перед телевизором. Авторы исследования считают, что силовые упражнения могут стать важной частью профилактики сердечно-сосудистых заболеваний наряду с другими видами физической активности.

Лента ру

Другие новости