Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Поддержи оливковое масло здоровье кишечника
Учёные из Севильского университета изучили множество исследований и пришли к выводу, что регулярное употребление оливкового масла, особенно нерафинированного Extra Virgin, может поддерживать здоровье кишечника.

Они выяснили, что оливковое масло первого холодного отжима содержит много полифенолов — биологически активных веществ, которые служат пищей для полезных кишечных бактерий. В результате увеличивается выработка короткоцепочечных жирных кислот, укрепляется защитный барьер кишечника и снижается активность воспалительных процессов.

Оливковое масло также может уменьшать проникновение бактериальных токсинов из кишечника в кровь после еды, снижать некоторые воспалительные маркеры и благоприятно влиять на обмен веществ. В экспериментах на животных оно ослабляло проявления воспалительных заболеваний кишечника, а в исследованиях с участием людей помогало улучшать показатели липидного обмена и снижать окислительный стресс.

Однако учёные подчёркивают, что имеющихся данных пока недостаточно, чтобы говорить о лечебном эффекте. Большинство работ выполнено на животных или представляет собой обзоры уже опубликованных исследований.

Результаты зависят от качества масла, особенностей питания и состояния здоровья человека. Ранее учёные выяснили, что рацион, богатый клетчаткой, поддерживает здоровье кишечника и усиливает иммунитет.

Лента ру

Определи позиции стран в рейтинге суперкомпьютеров
Сергей Михайлович утверждает, что США занимают первое место в мире по суммарной производительности суперкомпьютеров, однако самый мощный вычислитель находится в Китае.

Самый мощный российский суперкомпьютер занимает 101-е место в топ-500. Вероятно, существуют более сильные машины, но они не включаются в рейтинги по разным причинам, например, из-за секретности.

В России есть пять суперкомпьютеров, входящих в мировой топ-500. Три из них принадлежат компании Яндекс, включая суперкомпьютер Червоненкис (назван в честь Алексея Червоненкиса, одного из крупнейших мировых теоретиков машинного обучения), Галушкин (в честь Александра Галушкина, одного из главных исследователей теории нейронных сетей) и Ляпунов (в честь Алексея Ляпунова — знаменитого математика, чьи работы лежат в основе компьютерных наук).

Ещё два суперкомпьютера принадлежат Сберу — «Cristofari Neo» и «Cristofari». Самый мощный российский вычислитель работает со скоростью 21,53 петафлопса, а остальные — меньше.

В 2023 году было объявлено, что в МГУ появился «самый мощный суперкомпьютер в России» — «МГУ-270» с пиковой производительностью 400 петафлопс. Однако для того, чтобы попасть в рейтинг, необходимо выполнить определённую задачу, связанную с решением системы линейных уравнений, и продемонстрировать реальную производительность на данной задаче.

Публичных данных об этом нет. Дебора Винс-Смит, президент Совета США по конкурентоспособности, в 2003 году сказала, что страна, желающая победить в конкуренции с другими странами, должна победить в вычислениях.

Это сразу подхватили другие страны, признав на правительственном уровне, что победы в экономике, в социальной сфере, в военном деле, в научных прорывах зависят от победы в вычислениях. В России в 2010 году участники крупных суперкомпьютерных проектов на отечественных суперкомпьютерах отечественными программами рассчитывали, например, каким должен быть более совершенный ракетный двигатель и фасон трикотажного платья; как сделать бронежилет максимально лёгким и надёжным, а здание — сейсмостойким, лекарство — максимально действенным и с наименьшим числом побочных эффектов.

Более 20 различных прикладных задач. Отсутствие понимания роли суперкомпьютеров на уровне государства и отсутствие политической воли при формировании государственных и межгосударственных комплексных суперкомпьютерных проектов — вот что мешает развитию суперкомпьютеров в России.

Китайская суперкомпьютерная сфера находится под санкциями, но они создали все необходимые производства и лидируют. В России есть список из 10 основных вызовов на пути к высокоскоростным вычислениям, и в 8-ми из них мы имеем отечественные подходы к решению проблем, в 3-х из них — объективно лидерские позиции.

Например, это энергоэффективность — номер 1 в перечне 10 вызовов. У нас есть своя технология так называемого погружного охлаждения электроники.

Оно снижает расходы энергии всей системой в 2 раза по сравнению с воздушным охлаждением.

Московский комсомолец

Завтрак снижает риск депрессии у подростков
Китайские исследователи изучили связь между режимом питания подростков и их психическим состоянием.

В эксперименте приняли участие более 2,5 тысячи школьников из Шанхая. Учёные наблюдали за ними в течение полутора лет и оценивали частоту завтраков, продолжительность сна и наличие депрессивных симптомов в начале и спустя примерно 18 месяцев.

Выяснилось, что доля подростков, которые завтракали каждый день, снизилась с 81,1 % до 76,1 %. При этом распространённость депрессивных симптомов увеличилась с 15,3 % до 18,5 %, а недостаток сна — с 89,5 % до 92,9 %.

Анализ данных показал, что ежедневный завтрак связан с более низким риском появления депрессивных симптомов в будущем и более продолжительным сном. Между сном и психическим состоянием обнаружена двусторонняя связь: недостаток сна повышает вероятность депрессивных симптомов, а депрессия, в свою очередь, может приводить к сокращению продолжительности сна.

Авторы исследования предполагают, что завтрак влияет на настроение благодаря питательным веществам, важным для работы мозга, а также поддерживает циркадные ритмы организма.

Лента ру

Тренировки защищают сердце и сосуды лучше лекарств
Физическая активность после похудения более полезна для сердца и сосудов, чем приём препаратов для снижения веса без тренировок.

Учёные установили, что упражнения снижают воспаление и улучшают состояние артерий, в то время как медикаментозная терапия в основном способствует контролю веса. Результаты исследования опубликованы в журнале Nature Metabolism.

В эксперименте участвовали 130 человек с выраженным ожирением. В течение восьми недель они придерживались диеты с пониженной калорийностью и в среднем похудели на 13,7 килограмма.

Затем участников разделили на четыре группы: одна группа занималась спортом, другая принимала лираглутид, третья — сочетала препарат с физическими упражнениями, четвёртая — получала плацебо. Наблюдение длилось год.

У тех, кто регулярно занимался спортом, толщина стенок сонной артерии уменьшилась на 6–7%. Этот параметр связан с риском атеросклероза, образования тромбов и инсульта.

Кроме того, у физически активных участников снизились уровни воспалительных маркеров IL-6 и интерферона-гамма. В группах, получавших только лираглутид или плацебо, таких улучшений не было.

Для достижения эффекта участники занимались около двух с половиной часов в неделю — в основном на велотренажёрах и с помощью круговых тренировок. Авторы исследования подчёркивают, что лираглутид помогал поддерживать вес, но не заменял пользу физической активности для сосудов.

Ранее стало известно, что другой препарат — семаглутид — может снижать риск переломов костей.

Лента ру

Другие новости