Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Открыт новый вид приматов
В течение почти двух десятилетий исследователи собирали данные, чтобы подтвердить, что ликвели — это действительно новый вид приматов.

Жан-Пьер Капале, возглавлявший патруль наблюдения в секторе Курбюр, сделал фотографии чёрной обезьяны с бледными отметинами вокруг рта и белым перианальным пятном. Эта обезьяна не была похожа ни на одну другую в этом районе.

В течение следующих десяти месяцев Капале и его команда, используя методы наблюдения и целенаправленные поиски в сопровождении местных полевых помощников, находили и фотографировали эту обезьяну ещё семь раз в разных местах. Биолог Джуниор Амбоко назвал этот вид Colobus congoensis в честь бассейна реки Конго.

Это первый примат, названный в честь Демократической Республики Конго. «У этих обезьянок прекрасные мордочки с любопытными тёмными глазами, скулами и модельными розовато-оранжевыми надутыми губами, которые могли бы вдохновить на создание нового тренда губной помады, а их гладкий чёрный мех и длинный свисающий хвост контрастируют с копной колючих волос, обрамляющих выразительную морду», — рассказывает биолог.

Генетический анализ показал, что Colobus congoensis отделяет от ближайшего родственника Colobus satanas, обитающего более чем в 1200 километрах в западно-Центральной Африке, примерно 4 или 5 миллионов лет эволюции. Антрополог Кейт Детвайлер подчеркнула, что это открытие меняет понимание эволюции африканских обезьян.

От других представителей рода Colobus congoensis отличают не только физические и генетические особенности, но и уникальная акустическая окраска глубокого рева, зафиксированная в шести аудиозаписях. Однако есть и тревожная сторона этого открытия — ареал Colobus congoensis ограничен, и, как и другие виды в регионе, он сталкивается с потерей среды обитания.

Московский комсомолец

Учёные нашли новый метод лечения астмы
Учёные провели эксперименты на мышах и выяснили, что стимуляция нерва в наружном ухе может уменьшить воспаление в лёгких.

Это перспективный метод лечения астмы, результаты исследования опубликованы в журнале Immunity. Исследователи изучали ушную ветвь блуждающего нерва — единственную часть этого нерва, которая выходит к поверхности кожи.

Её стимулировали у мышей с аллергическим воспалением дыхательных путей. Оказалось, что стимуляция повышает уровень сигнального вещества CGRPβ в дыхательных путях, что заметно уменьшает воспаление в лёгких.

При подавлении активности нервных волокон заболевание протекает тяжелее. Авторы работы впервые показали существование нервного механизма, связывающего кожу наружного уха с иммунными процессами в лёгких.

Это открывает возможность создания биоэлектронных методов лечения воспалительных заболеваний вместо лекарственных. Учёные разрабатывают клиническое исследование, чтобы проверить эффективность специального устройства для стимуляции ушного нерва у людей с астмой.

Результаты пока получены только на животных.

Лента ру

Изобретают умный зонт
Группа российских студентов придумала необычную конструкцию зонта, который будет следить за солнцем и двигаться в зависимости от его перемещения.

Изобретение предназначено для тех, кто любит отдыхать на пляже и не хочет загорать, но при этом не желает оказаться под прямыми лучами солнца. Сейчас любителям приморского отдыха приходится в течение дня перемещать лежак или переставлять зонт.

Если задумка студентов осуществится, то перемещаться будет не человек, а зонтик. Планируется, что «умный» зонт будет использоваться в четырёх- и пятизвёздочных отелях.

Зонт будет оснащён механическими узлами, которые позволят ему вращаться по кругу, подниматься и опускаться. Руководить процессом будет оптический датчик, который будет определять реальное положение солнца.

Диаметр зонта составит 2 метра, а высота — 3 метра. Как пояснил глава группы разработчиков, студент Иван Турубар, на данный момент даже рабочего образца зонта не существует.

Студенты планируют напечатать модель «умного» зонта на 3D-принтере. Возможно, работа продлится до конца года.

Московский комсомолец

Найден древний янтарь
Палеонтолог Цзихан Ло подчёркивает, что значимость открытия не ограничивается лишь древностью находки.

Предыдущие подтверждённые находки янтаря относились к позднему каменноугольному периоду и были связаны с семенными растениями. Однако новый янтарь датируется средним девоном, когда семенные растения ещё не появились и не получили широкого распространения.

Это свидетельствует о том, что сложный биосинтез смолы возник гораздо раньше, чем предполагалось ранее. Производство смолы стало важным эволюционным нововведением, наряду с развитием деревьев, древесины, листьев и более глубоких корневых систем.

Оно помогло ранним сосудистым растениям выжить и распространиться в наземной среде. Учёные извлекли древнюю смолу из 10 килограммов угля.

Кусочки были настолько крошечными, что их выявляли с помощью ультрафиолетового излучения, которое заставляло их флуоресцировать на фоне окружающей породы. Сначала исследователи рассматривали частицы как смолоподобный органический материал, не предполагая, что это настоящий янтарь.

Только после проведения оптических тестов и масс-спектрометрии они с уверенностью подтвердили, что зёрна имеют химические признаки, характерные для смол хвойных пород. Учёным не удалось точно установить, какое именно семейство вымерших деревьев производило эту смолу.

Они считают, что в экосистеме было достаточно опасностей, чтобы растения нуждались в защите ещё до того, как насекомые стали основными травоядными. Лесные пожары и паразитические грибы, возможно, уже были серьёзной угрозой, стимулирующей производство смолы.

Эта адаптация оказалась на удивление стойкой, сохранившись на протяжении сотен миллионов лет. Янтарный уголь указывает на влажную, богатую органикой среду, в которой формировался уголь, вероятно, с редкими зарослями ранней сосудистой растительности.

По словам Ло, янтарь может быть ещё древнее, поскольку молекулярные исследования показывают, что растения обладали генами для производства терпенов гораздо раньше, чем в среднем девоне. Размер зёрен типичен для янтаря палеозойской эры, которая охватывает средний девон, но простирается ещё дальше, на 540 миллионов лет назад.

Вполне возможно, что другие древние янтари уже были обнаружены в музейных коллекциях и ждут своего часа.

Московский комсомолец

Другие новости