Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Яблоки поддерживают здоровье
Учёные проанализировали данные 38 клинических исследований и пришли к выводу, что регулярное употребление яблок может положительно влиять на уровень сахара в крови, состояние сосудов и кишечную микрофлору.

Работа опубликована в журнале Food amp; Function (Famp;F). В исследованиях рассматривались как свежие яблоки, так и продукты на их основе.

В краткосрочных экспериментах учёные чаще всего изучали влияние яблок на уровень глюкозы после еды и антиоксидантную защиту организма. Более длительные исследования были направлены на изучение показателей сердечно-сосудистого здоровья, воспаления, окислительного стресса и состава кишечной микробиоты.

Анализ показал, что яблоки могут улучшать контроль уровня сахара в крови, повышать антиоксидантную активность и поддерживать нормальную функцию сосудистого эндотелия — внутреннего слоя сосудов, который отвечает за их эластичность и работу. При длительном употреблении также наблюдались признаки улучшения состава кишечной микрофлоры.

Исследователи подчёркивают, что для окончательных выводов данных пока недостаточно. Однако учёные считают, что яблоки остаются важной частью здорового рациона благодаря содержанию клетчатки, витаминов и биологически активных веществ.

Их потенциальная польза для обмена веществ заслуживает дальнейшего изучения.

Лента ру

Активируй NOX4 для молодости мышц
Специалисты из Университета Монаша выяснили, что белок NOX4, который содержится в скелетных мышцах, может играть важную роль в поддержании здоровья и физической активности у пожилых людей.

Результаты их исследования были опубликованы на сервере препринтов bioRxiv. Учёные обнаружили, что с возрастом уровень NOX4 естественным образом снижается, что совпадает с уменьшением физической активности.

Эксперименты показали, что низкие уровни этого белка связаны с потерей мышечной массы, слабостью и признаками возрастной хрупкости организма. В то же время восстановление уровня NOX4 сопровождалось улучшением обмена веществ, увеличением силы и массы мышц.

Авторы работы утверждают, что NOX4 запускает в мышцах защитные процессы. Этот белок способствует выработке сигнальных молекул, которые помогают клеткам эффективнее производить энергию, лучше адаптироваться к нагрузкам и снижать накопление повреждений.

Именно поэтому регулярные физические упражнения оказывают выраженный омолаживающий эффект на организм. Сейчас учёные ищут способы активировать этот механизм без интенсивных тренировок.

Одним из перспективных направлений они считают вещества, которые содержатся в брокколи, капусте и брюссельской капусте. Если удастся воспроизвести действие NOX4 с помощью лекарств или питания, это может помочь людям дольше сохранять мышечную силу, подвижность и независимость в пожилом возрасте.

Ранее учёные выяснили, что дефицит витамина D повышает риск развития варикозного расширения вен.

Лента ру

Создаём систему жизнеобеспечения
Александр Шаенко, руководитель проекта, объясняет, что в основе нашего проекта лежит фотобиореактор, где выращивают микроскопические зелёные водоросли.

За основу был взят советский проект «Сирень» Института медико-биологических проблем РАН. Коллеги из ИМБП поделились опытом, и мы повторили эксперимент на более современном уровне.

Использовали светодиоды вместо ламп накаливания и современную автоматику. В результате получилось, что мы сделали почти то же самое, но с меньшим энергопотреблением.

Если у них на одного человека затрачивалось около 45 киловатт, то у нас — всего порядка 2 кВт. Реактор называется «435 нанометров» в честь первого пика спектра поглощения хлорофилла а — особой формы хлорофилла, используемой для оксигенного фотосинтеза, при котором из углекислого газа под воздействием света образуется кислород.

В реакторе есть ёмкость, питательная среда и микроводорослевые клетки, которые в ней плавают. Они делают примерно то же самое, что происходит в горшке с зелёными растениями — обыкновенный фотосинтез.

На вход в реактор подаётся газовая смесь из углекислого газа, кислорода и азота, а на выходе получается газовая смесь с уже большим содержанием кислорода. Технология, по мнению Александра Шаенко, — это один из начальных шагов по созданию биологической системы жизнеобеспечения для будущих миссий на Луну и Марс.

Эксперимент с использованием водорослей длился 45 минут, но вполне мог и больше. В своё время в ИМБП аналогичный эксперимент вообще длился в течение целого месяца!

Московский комсомолец

Нейросеть
Объявлены лауреаты Госпремии
В четверг помощник президента Андрей Фурсенко объявил о лауреатах Государственной премии.

Среди них оказался почётный президент Института стран Африки РАН Алексей Васильев. Он получил награду за выдающиеся достижения в области востоковедения, истории арабских стран и международных отношений на Ближнем и Среднем Востоке.

«Алексей Михайлович — человек, историк, политолог, один из лидеров отечественного востоковедения, — сказал о нём Фурсенко. — Он крупнейший специалист по истории Саудовской Аравии».

Вторая работа, которую представил помощник президента, — медицинская. Её выполнили три выдающихся российских хирурга, академики: директор Института функциональной нейрохирургии «Российский центр неврологии и нейронаук» Владимир Крылов, директор НМИЦ нейрохирургии им.

Академика Н. Н.

Бурденко Дмитрий Усачёв и заместитель директора НМИЦ нейрохирургии им. Бурденко Николай Коновалов.

Их работа связана с разработкой и внедрением инновационных методов хирургии заболеваний центральной нервной системы. «Сегодня опухоли спинного и головного мозга, инсульты, эпилепсии уже не являются приговором, как это было ещё совсем недавно, — сказал помощник президента, обозначив, что это во многом заслуга вышеназванных учёных, признанных лидеров отечественной хирургии, создавших целую сеть центров в самых разных регионах России.

Ещё одна работа, за которую была присуждена Государственная премия, — это работа в области инженерии, связанная с созданием отечественного комплекса гидравлического разрыва нефтяных и газовых пластов. Её разделили Олег Валерьевич Жданеев, Игорь Викторович Ковшов и Елена Викторовна Корса-Вавилова.

По словам Андрея Фурсенко, данная технология крайне важна для России, потому что «всё больше и больше наших месторождений связаны с трудноизвлекаемыми запасами». Инженеры обеспечили не просто импортозамещение, — в отличие от зарубежных аналогов, их технология оказалась более экологичной.

Что касается Государственной премии в области гуманитарной деятельности, её по итогам 2025 года присудили ректору МГУ им. Ломоносова академику Виктору Садовничему.

Московский комсомолец

Другие новости