Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Молодёжь не безграмотна: язык развивается
Владимир Пахомов, научный сотрудник Института русского языка имени В.

В. Виноградова РАН, в разговоре с РИА Новости подчеркнул, что представление о безграмотности современной российской молодёжи — это миф.

Он отметил, что русский язык эволюционирует, чтобы соответствовать вызовам времени и описывать всё более сложный и многогранный окружающий мир. Пахомов сказал, что нельзя утверждать, будто нынешняя молодёжь говорит безграмотно, а предыдущие поколения использовали более красивый и правильный язык.

«Нам так кажется просто потому, что для нас эталон всегда в прошлом, потому что произношение прошлого действительно нам представляется более красивым», — пояснил он. Пахомов добавил, что если бы каждое следующее поколение было бы менее грамотным, чем предыдущее, то языка бы сейчас не существовало.

Лента ру

Добиться ремиссии диабета 2-го типа
Более половины участников исследования с диабетом второго типа смогли достичь ремиссии без использования сахароснижающих препаратов благодаря низкокалорийному питанию и регулярным тренировкам.

Это показали результаты исследования, представленные на ежегодной конференции Европейской ассоциации по изучению диабета (EASD). В эксперименте участвовали 96 человек в возрасте от 18 до 45 лет, страдающих ожирением и имеющих раннюю форму диабета второго типа.

Одну группу лечили стандартными методами, а другой прописали рацион с энергетической ценностью 800–900 килокалорий в сутки на первые 12 недель. При этом участники второй группы занимались спортом дважды в неделю под руководством специалистов и один раз самостоятельно.

Программа включала силовые и аэробные упражнения. Через 24 недели в основной группе ремиссия наступила у 54% участников, в то время как в контрольной группе этот показатель составил всего 4%.

Ремиссией исследователи считали состояние, при котором уровень гликированного гемоглобина опускался ниже диагностического порога диабета и сохранялся таким без применения сахароснижающих препаратов в течение минимум 12 недель. Участники основной группы в среднем похудели на 8,4 килограмма, в то время как в контрольной группе снижение веса составило 1,2 килограмма.

При этом физические упражнения помогли сохранить мышечную массу, несмотря на потерю веса. По мнению исследователей, такие результаты демонстрируют, что активное изменение рациона и физической активности может способствовать достижению ремиссии при диабете второго типа, начавшемся в молодом возрасте.

Однако пока неясно, как долго может сохраняться этот эффект. Ранее учёные заявляли, что микрофлора кишечника может сигнализировать о развитии диабета ещё до появления первых симптомов.

Лента ру

Выявляй риски сердечно-сосудистых заболеваний
Снижение уровня физической активности и ухудшение способности справляться с повседневными нагрузками могут начинаться задолго до появления серьёзных сердечно-сосудистых заболеваний.

Ухудшение состояния здоровья было заметно у людей вплоть до десяти лет до инфаркта, инсульта, сердечной недостаточности и других сердечно-сосудистых событий. Об этом говорится в исследовании, опубликованном в журнале JAMA Cardiology.

Учёные проанализировали данные 12 тысяч пожилых людей. Из них 2403 человека впоследствии столкнулись с сердечно-сосудистыми событиями.

Их показатели сравнили с данными более 9,6 тысячи участников, у которых не было таких событий. Выяснилось, что будущие пациенты ещё за десять лет до заболевания чаще проявляли признаки физической слабости, имели меньшие функциональные возможности и хуже оценивали своё физическое состояние.

Примерно за пять лет до сердечно-сосудистого события различия начинали увеличиваться особенно быстро. При сердечной недостаточности и смертельной ишемической болезни сердца ухудшение некоторых показателей было заметно более чем за десять лет до события.

Перед инфарктами и инсультами различия проявлялись позднее. Авторы исследования считают, что постепенное ухудшение физического состояния может отражать накопление возрастных изменений сразу в нескольких системах организма.

Такие признаки могут помочь раньше выявлять людей с повышенным сердечно-сосудистым риском и начинать профилактику задолго до появления самого заболевания. Ранее учёные выяснили, что уровень витамина D в крови связан с риском развития ишемической болезни сердца.

Лента ру

Ушёл из жизни академик РАН Гарри Попов
В возрасте 92 лет ушёл из жизни Гарри Попов, академик РАН, который разработал инновационные электрореактивные двигатели для космических аппаратов.

Об этом стало известно из сообщения корпорации «Роскосмос» в мессенджере «Макс». Под руководством Гарри Алексеевича были созданы двигатели нового поколения.

Инжекторы плазмы на базе импульсных плазменных двигателей успешно функционировали на «Мире» и МКС. В 1987 году Попов возглавил Научно-исследовательский институт прикладной механики и электродинамики, который был основан по его инициативе.

Также в конце апреля не стало Владимира Воеводина, доктора физико-математических наук, члена-корреспондента Российской академии наук (РАН).

Лента ру