Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Следите за активностью мышц при сидении
Учёные из Технологического университета Суинберна в Австралии провели исследование и выяснили, что уже через 25 минут непрерывного сидения активность мышц заметно снижается.

Результаты их работы опубликованы в журнале npj Exercise Medicine and Health. Для исследования использовались специальные шорты с датчиками, которые отслеживали электрическую активность мышц.

Специалисты проанализировали более семи тысяч периодов сидения участников в повседневной жизни. Оказалось, что после 25 минут без движения мышцы становятся менее активными, что может сопровождаться ухудшением кровообращения и снижением усвоения глюкозы.

Это, в свою очередь, увеличивает риск сердечно-сосудистых заболеваний и диабета второго типа. Однако короткие перерывы на ходьбу или физическую активность помогают поддерживать работу мышц.

Даже небольшие движения во время сидения могут быть полезны. По расчётам учёных, если человек сидит десять часов в день, перерывы каждые 25 минут могут обеспечить около полутора часов дополнительной мышечной активности.

Это сокращает время мышечной неактивности во время бодрствования примерно на 10 процентов. Авторы исследования рекомендуют регулярно вставать, ходить и менять положение тела.

Лента ру

Россия занимает второе место по криопациентам
В мире насчитывается 740 человек, чьи тела или мозги хранятся в крионических центрах в ожидании будущих технологий, которые позволят их оживить.

Россия занимает второе место в этом списке, уступая лишь США, где таких людей 566. В нашей стране криопациентов 109.

Об этом сообщает KP.RU.

Крионика — это технология, позволяющая сохранять тела или мозги умерших людей в низкотемпературной среде, где химические реакции практически останавливаются. Это может обеспечить возможность их последующего оживления.

В марте 2026 года немецкие учёные заявили, что им удалось восстановить работу участков мозга после глубокой криоконсервации.

Лента ру

Косметика вредит глазам детей и взрослых
Косметические средства, которые мы используем ежедневно, могут нанести серьёзный вред глазам.

Среди наиболее опасных продуктов оказались спреи, клеи для ресниц, средства для ногтей и горячие приборы для укладки волос. К такому выводу пришли учёные из США, представив результаты своего исследования на конференции Американской академии офтальмологии (AAO).

В ходе исследования учёные проанализировали данные американских отделений неотложной помощи за период с 2005 по 2024 год. За это время почти 42,5 тысячи человек обратились к врачам из-за травм глаз, связанных с косметикой и средствами личной гигиены.

Оказалось, что 82% пострадавших были женщинами и девочками. Почти четверть всех случаев пришлась на детей младше пяти лет.

У детей основной опасностью стали химические ожоги. У взрослых же чаще встречались порезы, ушибы и царапины глаз — такие травмы фиксировались в 56% случаев.

Ещё 22% травм были связаны с термическими ожогами, в том числе при использовании горячих приборов для укладки волос. Учёные рекомендуют хранить косметику в местах, недоступных для детей, и осторожнее пользоваться приборами для укладки.

Особенно важно следить за маленькими детьми: в 70% случаев пострадавшие младше пяти лет использовали косметические средства без присмотра взрослых.

Лента ру

Объясни влияние исследований лауреатов Нобелевской премии
Экономическое развитие отличается чередованием спадов и подъёмов, как указано на сайте Нобелевской премии.

Чтобы обеспечить стабильность и избежать затяжных рецессий или инфляции, необходимо своевременно стимулировать или замедлять экономику. Исследования Роберта Э.

Холла и Майкла Вудфорда привели к изменению парадигмы стабилизационной политики. Их новые кейнсианские модели позволяют объяснить и количественно оценить влияние стабилизационной политики на бизнес-циклы.

Эти модели сейчас используются центральными банками и министерствами финансов по всему миру. Холл и Вудфорд разработали макроэкономические модели, которые улучшили способность проводить эффективную стабилизационную политику.

На основе этих моделей можно смягчить экономические пики и спады. Вместо того чтобы основывать модели на статистических связях между макроэкономическими переменными, лауреаты построили их на микроэкономическом фундаменте.

Это предполагает понимание того, как домохозяйства и предприятия влияют на экономику своими действиями. Центральным компонентом моделей является то, что домохозяйства и предприятия смотрят в будущее, принимая решения о сбережениях или ценах на продукты.

Правительства и центральные банки могут повлиять на этот взгляд на будущее и направить экономику в нужное русло, сообщая о своих планах в отношении экономической политики. Джон Хасслер, председатель Комитета по присуждению премии в области экономических наук, говорит: «Работы лауреатов предоставили нам прочную теоретическую основу для моделей, которые в настоящее время используются центральными банками и правительствами по всему миру.

С их помощью мы лучше подготовлены к преодолению потрясений в экономике, таких как энергетические кризисы или внезапные изменения в объёме потребления домохозяйств». Ричард Тол, профессор экономики в Университете Сассекса, отметил, что между фракциями в Нобелевском комитете идёт борьба: «Я поддерживаю вашего кандидата в этом году, если вы поддержите моего в следующем».

Майкл Вудфорд был назван «сильным кандидатом» в области денежно-кредитной политики, по словам Дэвида Пендлбери из исследовательской фирмы Clarivate. Пендлбери отметил, что прошло много времени с тех пор, как эта конкретная область получила признание.

Ключевой работой Вудфорда была книга, опубликованная в 2003 году.

Московский комсомолец

Другие новости