Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Грибанов объяснил опасность мерзлоты
Константин Грибанов, кандидат физико-математических наук и ведущий научный сотрудник Лаборатории физики климата и окружающей среды Института естественных наук и математики Уральского федерального университета, в беседе с НСН рассказал о рисках, связанных с таянием вечной мерзлоты.

Климатолог отметил, что при оттаивании мерзлоты происходит не только выброс метана, но и углекислого газа. По словам Грибанова, метан имеет сток в атмосфере, однако его концентрация с высотой уменьшается, в то время как у углекислого газа такого снижения нет.

«С ним в атмосфере ничего не происходит. То есть сток углекислого газа происходит только на поверхности.

Так что я считаю, что углекислый газ более опасен, чем метан, и он нас убьёт раньше», — пояснил эксперт. Ранее Андрей Киселёв, кандидат физико-математических наук Главной геофизической обсерватории имени Воейкова, предупредил россиян о предстоящих климатических изменениях, спрогнозировав, что в ближайшие 10 лет в России станет жарче и дождливее.

Лента ру

Исследованы черепа пещерных гиен
В Новосибирском государственном университете сообщили, что в Хакасии были обнаружены черепа пещерных гиен, которые хранились в Институте археологии и этнографии СО РАН.

Эти животные жили в плейстоцене и были важными хищниками экосистемы мамонтовых степей. Пещерные гиены (Crocuta crocuta spelaea) обитали в полярных и приполярных областях Северного полушария.

Они появились в Европе примерно 500 000 лет назад и были широко распространены в Евразии, от Северного Китая до Испании и Британских островов. Исчезать эти животные начали постепенно из-за смены природных условий и вытеснения со стороны других, более крупных животных и людей примерно 20 000 лет назад.

Около 14–11 тысяч лет назад они полностью исчезли в Западной Евразии. Пещерная гиена достигала 1 метра высоты в плечах и весила от 80 до 110 килограммов.

Она была более приспособлена к бегу, чем современная пятнистая гиена из Африки. Найденные в пещерах остатки пищи свидетельствуют, что хищники питались оленями, кабанами, лошадьми, зубрами.

По словам научного сотрудника Уральского федерального университета Данияра Хантемирова, учёные надеются, что новые материалы дополнят имеющуюся информацию о пещерных гиенах. В частности, поскольку часть исследованных черепов принадлежала молодым особям и совсем детёнышам, они могут дать сведения о развитии нервной системы и возрастных изменениях поведения.

В рамках исследования уже обследованы шесть черепов пещерных гиен, живших 40–45 тысяч лет назад. Всего же в мире, по словам Хантемирова, было выполнено около десяти подобных исследований.

Томография поможет определить примерный возраст каждого животного, оценить состояние зубов, обнаружить старые переломы. В случае с образцами черепов гиен специалисты могут использовать более высокие параметры съёмки, не ограничиваясь требованиями радиационной безопасности для живых организмов.

Исследование было проведено с использованием компьютерного томографа Лаборатории ядерной и инновационной медицины Физического факультета НГУ.

Московский комсомолец

Выявляй риски у детей
У детей восьми лет могут проявляться молекулярные маркеры, указывающие на повышенный риск сердечно-сосудистых заболеваний, проблем с почками и нарушений обмена веществ.

К такому выводу пришли учёные из Центра медицинских наук Техасского университета в Хьюстоне. Они обнаружили в крови детей специфические белковые профили, которые во взрослом возрасте ассоциируются с инфарктом и другими заболеваниями.

Результаты исследования опубликованы в журнале Nature Metabolism. В ходе работы учёные проанализировали около пяти тысяч белков в крови 273 детей и выделили шесть характерных белковых профилей.

Похожие изменения были обнаружены у 685 взрослых из той же популяции, у которых был выявлен высокий риск сердечно-сосудистых, почечных и метаболических заболеваний. Затем результаты были проверены на данных более 28 тысяч взрослых из UK Biobank.

Выяснилось, что люди с похожими белковыми профилями действительно имеют повышенный риск инфаркта и других неблагоприятных последствий. Многие из выявленных изменений оказались обратимыми.

У взрослых, принимавших препараты группы GLP-1, большая часть белков, связанных с высоким риском, менялась в благоприятную сторону. Авторы считают, что это особенно важно для детей.

Если опасные изменения выявлять достаточно рано, то появляется возможность вмешаться задолго до развития самого заболевания. Результаты исследования могут стать основой для более раннего выявления детей с повышенным риском хронических заболеваний.

Однако подобные анализы белков пока не включены в стандартный детский скрининг.

Лента ру

Креатин увеличивает мышечную массу и когнитивные функции
Приём креатина моногидрата способствовал увеличению мышечной массы и улучшению некоторых показателей памяти и когнитивных функций у людей среднего и старшего возраста.

Это было выявлено как при отдельном приёме добавки, так и при её сочетании с тренировками и диетой. Результаты исследования опубликованы в Journal of the International Society of Sports Nutrition (JISSN).

В эксперименте участвовали 64 малоподвижных человека в возрасте от 45 до 65 лет. В течение 12 недель часть из них получала креатин моногидрат в дозе 10 граммов в сутки, а другая часть — плацебо.

Некоторые участники дополнительно следовали программе тренировок и диеты для снижения веса. У тех, кто принимал креатин без тренировок и изменения рациона, увеличилась безжировая масса тела, улучшились мышечная сила и выносливость.

Также исследователи зафиксировали благоприятные изменения отдельных показателей липидного профиля крови, гликированного гемоглобина, когнитивных функций и памяти. При сочетании с тренировками и диетой креатин способствовал более выраженному увеличению безжировой массы и снижению доли жира в организме.

У участников также улучшились сила, мышечная выносливость и некоторые показатели когнитивных функций. Добавка хорошо переносилась участниками.

Однако авторы исследования подчёркивают, что эксперимент был небольшим, а результаты отдельных когнитивных тестов и анализов крови пока можно считать предварительными.

Лента ру

Другие новости