Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Определи риски диабета по микробиому
Шведские учёные выяснили, что состав кишечной микрофлоры может предупреждать о риске развития сахарного диабета второго типа за несколько лет до появления первых клинических симптомов.

Результаты исследования опубликованы в журнале Cell Reports Medicine (CRM). В эксперименте участвовали 4685 взрослых жителей Швеции.

Специалисты изучили состав бактерий в образцах кала добровольцев и наблюдали за их здоровьем в среднем на протяжении пяти лет. За это время у 383 участников диагностировали диабет второго типа.

Анализ показал, что ещё до постановки официального диагноза у этих людей был специфический профиль микробиома. Исследователи выделили девять видов микроорганизмов, присутствие или отсутствие которых связано с повышенным риском заболевания.

Одним из неожиданных открытий стало поведение бактерии Akkermansia muciniphila. Хотя она традиционно считается полезной, при дефиците пищевых волокон в рационе она начинает разрушать защитный слизистый слой кишечника.

Это вызывает хроническое воспаление и метаболические сбои, которые ведут к инсулинорезистентности. Учёные также установили принцип дозозависимости: влияние определённых бактерий меняется в зависимости от их концентрации.

Например, низкий уровень Coprococcus catus повышал вероятность болезни, тогда как высокая концентрация этого вида не демонстрировала такой связи. Авторы работы считают, что в перспективе тестирование кишечной микрофлоры может стать частью стандартной диагностики.

Такой анализ позволит оценивать риски развития диабета наряду с традиционными маркерами — уровнем глюкозы в крови, наследственной предрасположенностью и индексом массы тела.

Московский комсомолец

Нейросеть
Выяви связь микробиома с диабетом
Шведские учёные провели исследование, в котором приняли участие 4685 взрослых жителей Швеции.

Они изучили состав бактерий в образцах кала участников и наблюдали за их здоровьем в среднем пять лет. За это время у 383 человек развился диабет второго типа.

Анализ показал, что ещё до появления болезни у них наблюдался характерный состав кишечной микрофлоры. Исследователи выявили девять видов бактерий, связанных с повышенным риском возникновения заболевания.

Одним из самых неожиданных результатов стало поведение бактерии Akkermansia muciniphila, которую обычно считают полезной для здоровья. При недостатке пищевых волокон эта бактерия начинает разрушать защитный слизистый слой кишечника, что способствует развитию воспаления и нарушений обмена веществ.

Это может привести к инсулинорезистентности и диабету. Также выяснилось, что влияние некоторых бактерий зависит от их количества.

Например, низкий уровень Coprococcus catus был связан с повышенным риском развития болезни, тогда как при более высокой концентрации такой связи не наблюдалось. По словам исследователей, в будущем анализ кишечной микрофлоры может дополнить существующие способы оценки риска возникновения диабета наряду с уровнем глюкозы, наследственностью и ожирением.

Лента ру

Связь зубов и мозга изучай
Состояние полости рта и здоровье мозга тесно связаны.

Учёные выяснили, что потеря зубов, ухудшение способности жевать и даже привычка питаться в одиночестве могут увеличивать риск возрастного ухудшения памяти и деменции. В журнале Nutrients опубликован обзор, в котором представлены результаты анализа многочисленных научных работ, посвящённых этой теме.

Исследователи обнаружили, что потеря зубов влияет на мозг несколькими путями. Из-за трудностей с пережёвыванием пищи люди чаще отказываются от овощей, фруктов и других продуктов, богатых клетчаткой и витаминами.

Они предпочитают более мягкую и менее полезную пищу. Кроме того, уменьшается количество нервных сигналов, которые зубы и процесс жевания постоянно передают в мозг.

Согласно исследованиям, у людей с выраженной потерей зубов чаще обнаруживаются уменьшение объёма гиппокампа и других областей мозга, отвечающих за память, а также изменения белого вещества. Подобные нарушения могут появляться ещё до развития заметных когнитивных симптомов.

Привычка питаться в одиночестве также является дополнительным фактором риска. Она связана с более низким качеством питания и менее благоприятным состоянием некоторых участков мозга.

Авторы обзора подчёркивают, что сохранение здоровья полости рта, полноценное питание и активная социальная жизнь могут стать важными направлениями профилактики возрастного ухудшения когнитивных функций. Ранее учёные выяснили, что кратковременное ограничение калорий снижает воспаление при заболеваниях дёсен.

Лента ру

Нейросеть
Недосып провоцирует набор веса
Группа американских учёных пришла к выводу, что даже небольшое сокращение ночного отдыха на полтора часа может привести к постепенному набору лишнего веса и увеличению объёма талии.

Результаты исследования опубликованы в журнале Annals of Internal Medicine (AIM). Специалисты изучили данные двух рандомизированных клинических испытаний с участием 95 добровольцев старше 20 лет, которые изначально имели повышенный риск сердечно-сосудистых и метаболических нарушений.

Эксперимент длился двенадцать недель: первые шесть недель участники придерживались своего привычного графика, а затем ещё полтора месяца сознательно сокращали время сна на 1,5 часа каждую ночь. Учёные параллельно фиксировали изменения массы тела, окружности талии, состава тканей и уровня физической активности.

Выяснилось, что умеренное недосыпание привело к заметному увеличению веса и обхвата талии. Испытуемые стали проводить значительно больше времени без движения, что также способствовало накоплению жировой ткани.

Авторы исследования считают, что хронический дефицит сна постепенно повышает вероятность развития ожирения у людей с уже имеющимися нарушениями обмена веществ или факторами риска для сердца. Они полагают, что контроль продолжительности ночного отдыха должен стать обязательным элементом программ по профилактике лишнего веса наряду со сбалансированным питанием и регулярными физическими нагрузками.

Московский комсомолец

Другие новости