Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Снижает фертильность у мышей сочетание факторов
Учёные из Мельбурнского университета выяснили, что генетическая предрасположенность в сочетании с нездоровым питанием может сильнее снижать мужскую фертильность, чем каждый из этих факторов по отдельности.

Результаты исследования опубликованы в журнале Human Reproduction (HR). В эксперименте использовались мыши с нарушениями в гене M1AP, мутации которого являются одной из генетических причин мужского бесплодия у людей.

Часть животных получала рацион западного типа с высоким содержанием жиров и сахара. Исследователи обнаружили, что и генетическое нарушение, и нездоровое питание по отдельности ухудшали репродуктивные показатели мышей.

При этом сильнее всего фертильность снижалась при сочетании этих факторов. У мышей с дефектом M1AP на нездоровом рационе ухудшилось качество спермы, и они родили меньше потомства по сравнению с животными, подвергавшимися воздействию только генетического или только пищевого фактора.

Авторы исследования считают, что результаты могут объяснить, почему у мужчин с одинаковыми генетическими мутациями степень нарушения фертильности различается. По их мнению, образ жизни способен влиять на выраженность генетической предрасположенности.

Ранее учёные выяснили, что частое употребление ультрапереработанных продуктов ухудшает качество спермы.

Лента ру

Улучши настроение бегом
Десять минут очень медленного бега способны улучшить настроение и исполнительные функции мозга, которые отвечают за внимание, самоконтроль и принятие решений.

Это подтверждают результаты исследования, опубликованные в журнале Imaging Neuroscience (IN). В ходе эксперимента участники бежали на беговой дорожке в течение 10 минут со скоростью примерно 3–6 км/ч.

Такая скорость близка к обычной ходьбе и соответствует очень лёгкой физической нагрузке. До и после упражнения добровольцы проходили тест Струпа для оценки исполнительных функций и сообщали о своём настроении.

Активность мозга регистрировали с помощью функциональной ближней инфракрасной спектроскопии. После короткой пробежки участники быстрее справлялись с заданием на когнитивный контроль и отмечали более приятное настроение.

При этом повышалась активность участков префронтальной коры, которые участвуют в исполнительных функциях и регуляции эмоций. Интересно, что более заметное улучшение настроения было связано с более выраженными вертикальными движениями головы во время бега.

По мнению исследователей, даже очень медленный бег может оказывать заметное кратковременное воздействие на работу мозга при минимальной физической нагрузке. Однако пока неизвестно, сохраняются ли эти изменения надолго и даёт ли регулярный медленный бег дополнительные когнитивные преимущества, поскольку исследование оценивало эффект сразу после одной десятиминутной пробежки.

Лента ру

Экстракт клюквы защищает кожу от ультрафиолета
В журнале International Journal of Cosmetic Science (IJCS) были опубликованы результаты исследования, согласно которым экстракт клюквы может оказывать защитное действие на кожу, снижая изменения, вызванные ультрафиолетовым излучением, и поддерживая процессы синтеза коллагена.

Учёные создали трёхмерную модель человеческой кожи, которая включала в себя эпидермис и дерму, и подвергли её воздействию UVA- и UVB-излучения в течение четырёх дней, чтобы имитировать повреждение кожи ультрафиолетом. После этого исследователи оценили действие экстракта клюквы, который богат полифенолами, такими как проантоцианидины и антоцианы.

Было обнаружено, что ультрафиолетовое излучение резко снижает выделение проколлагена I — предшественника коллагена I, который является одним из основных структурных белков кожи. Однако добавление экстракта клюквы частично компенсировало этот эффект и значительно увеличило выделение проколлагена.

Аналогичное действие было обнаружено у метаболитов полифенолов клюквы, которые образовались после их обработки клетками печени. Авторы исследования предполагают, что вещества, содержащиеся в клюкве, могут поддерживать образование коллагена после воздействия ультрафиолета.

Однако важно отметить, что эксперимент проводился на лабораторной модели кожи, а не на людях, поэтому результаты не доказывают, что употребление клюквы может предотвращать фотостарение кожи. Ранее учёные выяснили, что антоцианы черники могут усиливать действие полезной кишечной бактерии.

Лента ру

Нейросеть
Помогают замедлить близорукость у детей
Очки с асферическими линзами могут замедлить прогрессирование близорукости у детей более чем на 70 %.

Это показали результаты исследования, опубликованные в журнале JAMA Ophthalmology. В эксперименте участвовали 159 детей с близорукостью в возрасте от шести до 12 лет.

Одни носили обычные очки, другие — специальные линзы с высокоасферическими элементами. Они не только корректируют зрение, но и замедляют развитие миопии.

За два года степень близорукости у детей со специальными линзами увеличилась в среднем на 0,25 диоптрии, а в группе обычных очков — на 0,90 диоптрии. Кроме того, такие линзы на 53 % замедлили удлинение глазного яблока — процесс, связанный с прогрессированием миопии.

Особенно заметным эффект был у детей от шести до восьми лет: у них ухудшение зрения замедлилось на 87 %. Авторы исследования подчёркивают, что специальные линзы оказались безопасными и обеспечивали такую же чёткость зрения, как обычные очки.

Однако наблюдение продолжалось всего два года, поэтому пока неизвестно, сохранится ли эффект в долгосрочной перспективе и сможет ли такое лечение снизить риск серьёзных нарушений зрения во взрослом возрасте. Ранее стало известно, что препарат Torin 2, активирующий аутофагию, помогает защитить зрение при глаукоме.

Лента ру

Другие новости