Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Красное мясо и риск диабета выяснили учёные
Учёные на ежегодной конференции Европейской ассоциации по изучению диабета (EASD) представили результаты исследования, согласно которым высокое потребление красного мяса связано с повышенным риском развития сахарного диабета второго типа.

В работе использовались данные 89 953 взрослых участников французского исследования NutriNet-Santé. Изначально у них не было диабета второго типа или рака.

За 7,2 года наблюдений заболевание выявили у 966 человек. Особое внимание исследователи уделили молекуле сахара Neu5Gc, которая содержится в красном мясе, особенно в говядине и баранине.

Человеческий организм не может самостоятельно производить Neu5Gc, поэтому поступающее с пищей вещество может восприниматься иммунной системой как чужеродное и провоцировать хроническое воспаление. У людей, которые потребляли больше всего Neu5Gc из красного мяса, риск развития диабета оказался на 63% выше, чем у участников с самым низким потреблением.

В группе со вторым по величине уровнем потребления риск был выше на 41%. Связь сохранялась после учёта физической активности, качества питания, курения и других факторов.

Ожирение, по расчётам учёных, объясняло лишь около 13% выявленной связи. Исследователи предполагают, что остальная часть может быть связана с воспалением, которое влияет на клетки, вырабатывающие инсулин, и чувствительные к нему ткани.

При этом для Neu5Gc из молочных продуктов аналогичной связи не обнаружили. Авторы подчёркивают, что исследование было наблюдательным и не доказывает, что красное мясо непосредственно вызывает диабет.

Ранее учёные выяснили, что достаточное употребление мяса помогает сохранить физические силы в старости.

Лента ру

Бессонница повышает риск инсульта и других проблем
Люди, страдающие бессонницей, рискуют столкнуться с инсультом на 26 процентов чаще, чем те, кто не имеет проблем со сном.

Такой вывод сделали исследователи Европейской академии неврологии. Их статья опубликована в журнале Sleep Medicine Reviews (SMR).

Учёные изучили данные исследований, посвящённых влиянию бессонницы на здоровье, и обнаружили связь между бессонницей и повышением риска инсульта. В анализ вошли данные более 1,3 миллиона человек, а связь с инсультом рассматривалась на основе девяти исследований.

Помимо инсульта, у людей с бессонницей на 28 процентов выше вероятность госпитализации по любой причине. Также бессонница связана с депрессией, суицидальным поведением и повышенным риском деменции.

Наиболее последовательная связь обнаружена с болезнью Альцгеймера. Авторы исследования считают, что бессонницу нужно рассматривать не только как проблему со сном, но и как возможный индикатор состояния мозга и здоровья в целом.

Однако важно отметить, что исследование выявило связь, но не доказало, что именно бессонница является непосредственной причиной инсульта или деменции.

Лента ру

Исследователи раскрыли механизм мамнезии
Учёные из Медицинского колледжа Бейлора в Техасе провели эксперимент на мышах, в ходе которого воздействовали на животных концентрациями эстрогена, соответствующими уровню гормона при беременности.

Выяснилось, что высокий уровень эстрогена нарушает работу определённой мозговой цепи, которая участвует в формировании памяти. Чрезмерная стимуляция нейронов в гипоталамусе из-за повышенного эстрогена мешала активности в гиппокампе — ключевом центре памяти.

Когда исследователи блокировали этот путь, проблемы с памятью у мышей исчезали. Это подтверждает предположение о прямой роли в явлении, известном как «мамнезия».

Старший автор работы доктор Чжэн Сунь отметил: «Мы работали с моделями на мышах, созданными для имитации устойчиво высокого уровня эстрогена в крови, характерного для беременности. Эти модели показали, что повышенный эстроген вызывал обратимые нарушения памяти, не влияя на настроение или мотивацию, что указывает на специфический когнитивный эффект».

Затем команда учёных провела тестирование беременных женщин и обнаружила, что показатели памяти снижались на поздних сроках беременности и были связаны с более высоким уровнем циркулирующего эстрогена. Эффекты оказались временными и касались определённых задач на память, а не являлись признаком более широкого когнитивного снижения.

Доктор Сянхуа Чжуан, старший автор работы, сказала: «Мамнезия реальна, она имеет определённую биологическую основу и является временной. Мы надеемся, что эта работа подтвердит то, что многие женщины описывали анекдотически на протяжении многих лет».

Исследователи заявили, что их выводы предлагают первое биологическое объяснение того, как воздействие высоких уровней эстрогена может временно ухудшать память. По их словам, открытие может помочь врачам успокоить женщин и даже привести к методам лечения, предотвращающим провалы в памяти, не влияя на другие важные роли гормона в организме.

Московский комсомолец

Определи возраст по сетчатке
Учёные из Сеульского национального университета выяснили, что снимок сетчатки глаза может быть полезен для оценки биологического возраста человека и определения скорости старения организма.

Результаты исследования опубликованы в журнале GeroScience. Для разработки алгоритма, который определяет возраст человека по изображениям глазного дна, учёные использовали 29 530 снимков сетчатки 7535 человек.

Затем алгоритм проверили на 14 832 снимках 7416 участников. Алгоритм определял фактический возраст человека со средней погрешностью 2,5–2,7 года.

Исследователи сравнили возраст, рассчитанный по сетчатке, с реальным возрастом участников. Выяснилось, что чем «старше» выглядела сетчатка относительно паспортного возраста, тем быстрее могли идти процессы биологического старения.

Например, у людей с диабетом расчётный возраст сетчатки был в среднем на 2,52 года выше, у курильщиков — на 0,5 года, а у бывших курильщиков — на 0,46 года. При возрастной макулярной дегенерации разница составляла 0,6 года, а при катаракте — 1,86 года.

По мнению учёных, в будущем обычный снимок глазного дна может стать быстрым и неинвазивным способом оценки старения организма. Это может помочь выявлять людей, которым требуется дополнительное обследование.

Лента ру

Другие новости