Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Нейросеть
Разработан новый способ сбора слюны
Учёные Башкирского государственного университета разработали новый метод получения слюны для анализа, который запатентовали.

Этот способ отличается своей простотой и эффективностью. Слюну для анализа собирают, в том числе для диагностики стоматологических заболеваний, таких как кариес, гингивит, пародонтит, стоматит и грибковые инфекции полости рта.

Уровень кортизола в слюне помогает выявить дефицит или избыток кальция, магния, натрия, калия и других элементов. Кроме того, исследование слюны позволяет обнаружить вирусные инфекции, а также остатки алкоголя и других психоактивных веществ.

Сегодня наиболее распространённый метод сбора слюны — это плевание в специально предназначенную ёмкость. Однако в образец попадают остатки пищи, что затрудняет анализ.

Учёные из Башкирии предложили альтернативный и не менее простой способ. Нужно поместить в рот человека тампон из бинта, затем вставить его в шприц без иглы и выдавить с помощью поршня.

В результате слюна очищается от остатков пищи, и анализ становится более точным. Автор: Николай Акимов.

Московский комсомолец

Исследователи выяснили влияние вулканов на климат
Международная группа учёных обнаружила, что древние извержения вулканов запускали в океане процессы, которые усиливали глобальное похолодание.

Результаты исследования опубликованы в журнале Communications Earth & Environment. Специалисты изучили следы мощных извержений в Андах, которые происходили в позднем миоцене — от 11,6 до 5,3 миллиона лет назад.

Оказалось, что вулканический пепел, богатый железом, фосфором и кремнием, попадал в Южный океан и служил удобрением для диатомовых водорослей. Их численность резко возросла: по данным компьютерного моделирования, уже в первые два года после крупного извержения рост микроводорослей увеличивался более чем вдвое.

Водоросли активно поглощали углекислый газ из атмосферы, а после гибели вместе с накопленным углеродом опускались на дно. Этот механизм, известный как «биологический насос», надолго выводил углерод из атмосферы.

При повторении извержений с определённой периодичностью океан постепенно наращивал поглощение CO₂, и охлаждающий эффект становился долговременным. Исследователи также отметили, что в тот же период изменились морские экосистемы: средний размер усатых китов вырос примерно с пяти до двенадцати метров, что могло дополнительно усиливать круговорот питательных веществ.

Учёные подчёркивают, что вулканический пепел был лишь одним из факторов похолодания и действовал в связке с изменениями океанических течений, ветров и ростом ледников. Авторы предостерегают от попыток рассматривать результаты как способ борьбы с нынешним изменением климата — современный рост концентрации углекислого газа происходит значительно быстрее, чем в древности.

Московский комсомолец

Археологи нашли древний головной убор
В Республике Ингушетия археологи обнаружили в башенном комплексе Гирети древний женский национальный головной убор курхарс со следами насильственной смерти.

Об этом проинформировало правительство региона. Были найдены два таких головных убора.

На одном из них есть два параллельных отверстия и следы крови. Реставратор Хулимат Бекова объяснила, что повреждения на головном уборе свидетельствуют о насильственной смерти его владелицы.

Удар копьём был нанесён сверху вниз, пробив череп и оставив следы крови на ткани изделия. Археологи провели реставрацию первой части находок из ингушского комплекса Гирети.

Среди 40 фрагментов средневековой одежды, переданных в музей, выделяется курхарс из-за трагической судьбы его владелицы. Специалисты выбрали консервацию находок вместо полной реставрации, чтобы сохранить не только структуру и материал, но и важные исторические детали, которые рассказывают о трагической судьбе девушки, чьи останки были обнаружены.

Московский комсомолец

Объяснена причина зависимости от соцсетей
Миллионы пользователей проводят много времени, просматривая короткие ролики в бесконечной прокрутке, и многие из них замечают, что не могут оторваться от экрана, даже когда планировали остановиться.

Китайские нейробиологи провели исследование, чтобы объяснить этот феномен. Они выяснили, что просмотр увлекательного контента может временно снижать активность областей коры, которые отвечают за сознательный контроль и саморегуляцию.

Учёные из Чжэцзянского университета под руководством Тяньтяня Хуна изучили две структуры мозга: переднюю поясную кору и префронтальную кору. Передняя поясная кора отслеживает конфликты и регулирует усилия при решении задач, а префронтальная кора отвечает за удержание внимания и подавление импульсов.

Вместе эти области образуют основу системы когнитивного контроля. В эксперименте участвовали 56 добровольцев со средним возрастом около 23 лет.

Сначала им провели протонную магнитно-резонансную спектроскопию для оценки уровней нейрохимических веществ, а затем предложили просматривать короткие видеоролики в функциональном томографе. Сеанс длился два блока по 6 минут каждый, при этом участники могли пропускать неинтересные клипы.

Результаты показали, что при просмотре увлекательных роликов активность обеих зон контроля заметно снижалась по сравнению с фоновым состоянием. При «скучных» видео дорсолатеральная префронтальная кора также подавлялась, а вот передняя поясная кора сохраняла средний уровень.

Примечательно, что зрительные отделы мозга работали одинаково активно в обоих случаях. У испытуемых с более высоким содержанием глутамата в передней поясной коре подавление активности было слабее — их мозг сохранял большую часть контрольных функций.

ГАМК значимого влияния не оказал. Авторы отметили, что во время просмотра усиливалась функциональная связь между двумя зонами, но это не улучшало самоконтроль — напротив, области синхронно переходили в режим пониженной активности.

Эти данные помогают понять, почему некоторые люди особенно подвержены бесконечному зависанию в ленте. Дело не только в алгоритмах приложений, но и в индивидуальных нейрохимических особенностях реакции на приятный визуальный поток.

Московский комсомолец