Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Свяжи глюкозу со старением мозга
Учёные, работавшие с данными UK Biobank, обнаружили связь между повышенным уровнем глюкозы в крови и ускоренным старением мозга.

Также выяснилось, что это может повышать риск неврологических заболеваний. Результаты исследования опубликованы в журнале Molecular Psychiatry (MP).

В работе использовались МРТ-снимки мозга, данные метаболомики крови и генетическая информация участников. С помощью машинного обучения исследователи рассчитали «возраст мозга» по 1079 нейровизуализационным показателям и сравнили его с реальным возрастом человека.

Разница между этими значениями показывала, насколько мозг выглядит старше или моложе хронологического возраста. Анализ данных более 21 тысячи человек выявил девять метаболитов, связанных с ускоренным старением мозга.

Наиболее сильная связь была обнаружена для глюкозы. Высокий уровень этого вещества также оказался связан с уменьшением объёма серого вещества в десятках зон мозга, ухудшением когнитивных показателей и повышенным риском деменции, болезни Альцгеймера, сосудистой деменции, болезни Паркинсона, инсульта, депрессии и тревожности.

Генетический анализ показал, что связь глюкозы со старением мозга не является просто совпадением. Авторы исследования считают, что обмен глюкозы может быть одним из факторов, влияющих на здоровье мозга, а контроль сахара в крови — перспективным направлением для профилактики возрастных нарушений.

Ранее учёные выяснили, что высокий уровень витамина C связан с лучшим состоянием серого вещества мозга.

Лента ру

Учёные совершили открытие лавы возрастом 3,1 миллиарда лет
В регионе Пилбара на северо-западе Австралии учёные из Университета Аделаиды обнаружили древние лавы, возраст которых составляет 3,1 миллиарда лет.

Анализ уникальных пород подтвердил наличие глубокого круговорота воды на Земле до формирования тектоники плит. Это открытие может изменить наше представление о геологических процессах на ранней планете.

Регион Пилбара известен своей исключительной сохранностью геологических образований. Он привлекает внимание не только учёных, но и NASA, которое использует его ландшафты для подготовки марсоходов.

В ходе исследования учёные отобрали образцы лав группы Вундо. Они оказались химически схожи с современными лавами, извергающимися в зонах субдукции.

Одним из ключевых открытий стало наличие древней лавы — бонинита, богатой водой. Это позволяет предположить, что в мантии Земли в то время содержалось столько же воды, сколько и в современных мантиях под активными вулканами.

Исследователи утверждают, что наличие воды в мантии является важным условием для формирования вулканов. Они также представили новую концепцию «дрипдукции», описывающую процесс погружения влаги в мантию до появления тектоники плит.

Вместо привычного скольжения плит мягкая кора прогибалась и уходила в мантию короткими толчками, что позволяло воде проникать глубже и поддерживать вулканическую активность. Эти открытия, опубликованные в журнале Nature Communications, могут существенно изменить представления о геологических процессах на ранней Земле и их влиянии на климат и экосистемы.

Московский комсомолец

Средиземноморская диета улучшает психологическое состояние
Люди, которые следуют средиземноморскому стилю питания, особенно в возрасте старше 50 лет, демонстрируют более высокий уровень психологического благополучия.

Это подтверждают результаты исследования, опубликованные в журнале BMJ Open. В работе учёные анализировали данные 3296 участников в возрасте от 50 до 90 лет.

Они подробно рассказывали о своём рационе, а затем проходили опросы, которые оценивали их психологическое состояние. При этом исследователи учитывали не только отсутствие депрессии, но и такие показатели, как ощущение контроля над жизнью, независимость, удовольствие от повседневных дел, наличие жизненных целей, уровень энергии и оптимизм.

Оказалось, что более строгое следование средиземноморской диете связано с лучшим психологическим состоянием. Это было верно независимо от уровня дохода и наличия симптомов депрессии.

Более того, во время пандемии COVID-19 эмоциональное благополучие участников в целом ухудшилось, но у тех, кто придерживался средиземноморского рациона, это снижение было менее заметным. Авторы исследования подчёркивают, что их работа не доказывает причинно-следственную связь между средиземноморской диетой и психологическим благополучием.

Однако полученные результаты показывают, что питание, богатое овощами, фруктами, бобовыми, рыбой и оливковым маслом, может поддерживать работу мозга и психическое здоровье. Это происходит за счёт влияния на воспаление, стрессовые реакции организма и состояние кишечной микрофлоры.

Ранее учёные выяснили, что средиземноморская диета и DASH-рацион снижают риск рака у женщин.

Лента ру

Определи риски диабета по микробиому
Шведские учёные выяснили, что состав кишечной микрофлоры может предупреждать о риске развития сахарного диабета второго типа за несколько лет до появления первых клинических симптомов.

Результаты исследования опубликованы в журнале Cell Reports Medicine (CRM). В эксперименте участвовали 4685 взрослых жителей Швеции.

Специалисты изучили состав бактерий в образцах кала добровольцев и наблюдали за их здоровьем в среднем на протяжении пяти лет. За это время у 383 участников диагностировали диабет второго типа.

Анализ показал, что ещё до постановки официального диагноза у этих людей был специфический профиль микробиома. Исследователи выделили девять видов микроорганизмов, присутствие или отсутствие которых связано с повышенным риском заболевания.

Одним из неожиданных открытий стало поведение бактерии Akkermansia muciniphila. Хотя она традиционно считается полезной, при дефиците пищевых волокон в рационе она начинает разрушать защитный слизистый слой кишечника.

Это вызывает хроническое воспаление и метаболические сбои, которые ведут к инсулинорезистентности. Учёные также установили принцип дозозависимости: влияние определённых бактерий меняется в зависимости от их концентрации.

Например, низкий уровень Coprococcus catus повышал вероятность болезни, тогда как высокая концентрация этого вида не демонстрировала такой связи. Авторы работы считают, что в перспективе тестирование кишечной микрофлоры может стать частью стандартной диагностики.

Такой анализ позволит оценивать риски развития диабета наряду с традиционными маркерами — уровнем глюкозы в крови, наследственной предрасположенностью и индексом массы тела.

Московский комсомолец