Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Стань сильнее с одной тренировкой в неделю
Исследования Ньюкаслского университета показывают, что для увеличения силы не всегда нужны длительные занятия в спортзале.

Даже одна силовая тренировка в неделю может привести к заметному росту силы, особенно для новичков. Такие упражнения заставляют мышцы работать под нагрузкой, и в ответ на микроповреждения и утомление они восстанавливаются и увеличиваются в объёме при условии достаточного потребления белка.

Ранее считалось, что для достижения результатов нужно тренироваться часто и с большими весами. Однако новые данные свидетельствуют о том, что это не единственный путь.

Авторы исследования отмечают, что 20–25 повторений с лёгким весом дают примерно такой же эффект, как и десять повторений с тяжёлым. Силовые нагрузки особенно важны для пожилых людей.

С возрастом развивается саркопения — утрата мышечной массы и силы, которая затрагивает многих людей старше 70 лет и повышает риск падений и потери самостоятельности. Регулярные силовые упражнения помогают сохранить мышцы, стабилизировать суставы, поддерживать равновесие и служат «резервом» на случай болезни или травмы.

Учёные подчёркивают, что главное — регулярность и постепенность, а не рекорды. Сегодня силовые тренировки всё активнее рекомендуют людям всех возрастов как защиту от болезней и немощи.

Особенно это касается пожилых: даже умеренные нагрузки помогают сохранить самостоятельность и снизить риск падений.

Московский комсомолец

Найди альтернативы творогу
Диетолог и гастроэнтеролог Александра Разаренова в беседе с 360.

ru отметила, что творог содержит много кальция, однако не является основным его источником в рационе. По её словам, кальций присутствует не только в твороге, но и во многих других продуктах.

При разнообразном питании человек естественным образом получает достаточное количество кальция. В качестве альтернативы творогу Разаренова предложила растительные обогащённые напитки, тофу, съедобные косточки рыб, а также овощи, такие как кейл, пак-чой и брокколи.

Ранее другой эксперт, Мария Балакирева, предупредила о возможном негативном влиянии некоторых растительных напитков, таких как овсяное, миндальное и кокосовое молоко, на здоровье зубов, указывая на риск развития кариеса. В то же время врач отметила пользу греческого йогурта и миндаля для здоровья костей в качестве завтрака.

Московский комсомолец

Исследованы вирусные сообщества при ХОБЛ
Учёные обнаружили связь между тяжестью хронической обструктивной болезни лёгких (ХОБЛ) и изменениями в вирусном сообществе дыхательных путей.

У пациентов с более выраженной формой заболевания было выявлено снижение разнообразия вирусов, заражающих бактерии. Во время обострений состав вирусов сильнее отклонялся от обычного состояния конкретного человека.

Исследователи проанализировали данные 98 пациентов с ХОБЛ, склонных к частым обострениям. Образцы мокроты собирали в университетской больнице Саутгемптона.

Всего учёные изучили 520 образцов, вирусные геномы удалось обнаружить в 424 из них. Исследователей интересовали две основные группы вирусов: вирусы, способные заражать клетки человека, и бактериофаги — вирусы, которые поражают бактерии и могут влиять на состав микробного сообщества дыхательных путей.

Одним из наиболее заметных результатов стало подтверждение роли риновирусов. Они оказались важными возбудителями, связанными с острыми обострениями ХОБЛ.

С утяжелением заболевания уменьшалось разнообразие бактериофагов. Чем сильнее было ограничение воздушного потока в лёгких, тем беднее становилось их вирусное сообщество.

Учёные также обнаружили бактериофаги, заражающие бактерии гемофильной палочки. Некоторые из этих вирусов несли гены, которые потенциально могут влиять на свойства бактерий и их взаимодействие с другими микроорганизмами.

Такие бактериофаги чаще встречались в образцах, где было повышено содержание гемофильной палочки. Исследователи считают, что это может указывать на сложную связь между вирусами и нарушением бактериального равновесия в дыхательных путях.

Ещё одной особенностью стала высокая индивидуальность вирусного состава. У каждого пациента формировалось собственное относительно устойчивое вирусное сообщество, поэтому единого набора вирусов, характерного для всех больных, учёные не обнаружили.

Во время обострений это состояние заметно нарушалось. Чем тяжелее протекал эпизод ухудшения, тем сильнее вирусное сообщество отклонялось от привычной для конкретного пациента структуры.

Московский комсомолец

Разоблачаем миф о чае с мёдом
Пищевой технолог, кандидат наук Нелли Львович в беседе с Life.

ru сообщила, что горячий чай с мёдом не всегда полезен при простуде, так как часть полезных веществ мёда разрушается при высоких температурах. Например, при нагревании распадаются ферменты и нестабильные витамины, включая витамин С.

«Иными словами, распадается часть тех биологически активных веществ, ради которых, собственно говоря, мёд и ценится», — объяснила Львович. Она подчеркнула, что чай с кипятком не становится ядовитым, так как оксиметилфурфурол образуется только при длительном нагреве.

Однако биологическая ценность напитка при контакте с кипятком снижается. Взрослому человеку рекомендуется употреблять примерно одну чайную ложку мёда в день.

Превышение этого количества не принесёт дополнительной пользы для организма, а приведёт к избыточному потреблению сахаров. «Если же вы, допустим, хотите получить именно выраженную пользу, то лучше, на мой взгляд, обратить внимание на маточное молочко, трутневое молочко или пергу.

В таком случае это будет, так сказать, концентрированная польза продуктов пчеловодства», — посоветовала Львович.

Московский комсомолец

Другие новости