Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Пациенты начали различать звуки уже через месяц после инъекции, а через полгода уровень слышимости улучшился с 106 до 52 децибел, как сообщается в журнале Nature Medicine. В исследовании приняли участие 10 человек в возрасте от 1 до 24 лет, у всех была обнаружена редкая генетическая мутация в гене OTOF.

Эта мутация нарушает выработку белка, который отвечает за передачу звукового сигнала от уха к мозгу. Учёные использовали модифицированный вирус, чтобы доставить рабочую копию гена прямо во внутреннее ухо.

Терапия оказалась наиболее эффективной для детей: семилетняя девочка полностью восстановила слух и через 4 месяца начала свободно разговаривать. Взрослые также продемонстрировали устойчивое улучшение.

Побочные эффекты были минимальными, серьёзных осложнений не зафиксировано. Учёные планируют продолжить исследования и разработать методы лечения нарушений слуха, связанных с другими генами, такими как GJB2 и TMC1.

Ранее было доказано, что потеря слуха и нарушения сна тесно взаимосвязаны не только статистически, но и биологически. Оказалось, что плохой сон может ускорять снижение слуха, а тугоухость, в свою очередь, нарушает сон, усиливая воспаления и стресс.

В статье, опубликованной в журнале Radiology, говорится о том, что рост концентрации мелких частиц (PM2.5) в атмосфере связан с усилением диффузного фиброза миокарда — процесса, при котором сердечная мышца замещается рубцовой тканью.

Учёные проанализировали данные почти 700 пациентов, среди которых были как люди с дилатационной кардиомиопатией, так и здоровые. Уровень фиброза оценивался по специальной МРТ-карте сердца (native T1), а степень загрязнения — по данным ближайших станций мониторинга.

Результаты показали, что даже незначительное увеличение загрязнения (на 1 мкг/м³ в течение года) существенно повышает уровень фиброза, особенно у женщин, курильщиков и людей с гипертонией. Авторы исследования предупреждают, что фиброз миокарда делает сердце менее эластичным и увеличивает риск сердечной недостаточности.

Это означает, что воздух, которым мы дышим ежедневно, может постепенно и незаметно разрушать сердце, даже если оно считается здоровым. Ранее учёные также изучали связь между психотропными препаратами и риском сердечных осложнений.

Некоторые исследования показали, что антидепрессанты могут влиять на электрическую активность сердца, в частности, удлинять интервал QT, что повышает вероятность аритмий.

Эти препараты нового поколения активируют бета-2-адренорецепторы, однако они нацелены на белок GRK2, играющий важную роль в регуляции уровня глюкозы в мышцах. В исследовании, опубликованном в журнале Cell, было продемонстрировано, что такие молекулы способствуют улучшению усвоения глюкозы скелетными мышцами без увеличения уровня цАМФ, что предотвращает тахикардию, гипертрофию и другие сердечные осложнения.

Более того, эти молекулы не снижают чувствительность рецепторов при длительном применении, что делает их многообещающей заменой инъекционным препаратам, таким как агонисты GLP-1. Клинические испытания на людях подтвердили безопасность и хорошую переносимость нового препарата.

Учёные надеются, что GRK-селективные агонисты бета-2-рецепторов станут первыми пероральными средствами нового поколения для контроля диабета и ожирения, сочетающими в себе эффективность и безопасность. Ранее выяснилось, что семаглутид, активное вещество препаратов Ozempic и Wegovy, в редких случаях может привести к потере зрения.

Исследование с участием 350 тысяч пациентов показало, что приём препарата более двух лет увеличивает риск развития ишемической оптической нейропатии в два раза.

Работа опубликована в журнале Iraq, а расшифрованный текст будет включён в мировую электронную библиотеку клинописных текстов. Речь идёт о древнем гимне, посвящённом Вавилону — крупному городу древней Месопотамии и культурной столице древнего мира.

Текст написан клинописью на глиняных табличках и частично сохранился в библиотеке Сиппара, которую, по легенде, спас от потопа Ной. Исследователи использовали электронную платформу Electronic Babylonian Library и технологии искусственного интеллекта, чтобы сопоставить фрагменты из 30 различных табличек.

Это позволило им воссоздать полный текст гимна. Открытие дало возможность впервые за всю историю полностью прочитать текст из 250 строк, который ранее считался утерянным.

Гимн представляет особую ценность для учёных, так как содержит не только описания города, природы и архитектуры Вавилона, но и уникальные сведения о жизни его обитателей — мужчин и женщин. В тексте упоминаются женские религиозные роли, которые ранее были неизвестны по другим источникам.

Кроме того, гимн содержит редкие для месопотамской литературы описания природных явлений, таких как весеннее разливание Евфрата и цветение полей.