Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Используй медуз для мониторинга воды
МК сообщает, что раньше контроль за чистотой акваторий, где выращивают морепродукты, был похож на игру в рулетку.

Пока эколог собирает пробы воды, пока доставляет их в лабораторию, пока ждут результаты анализов — загрязняющие вещества уже могут пройти через ферму. Лабораторные исследования дают точные, но запоздалые результаты.

Учёным нужен был живой индикатор, который мог бы сигнализировать о проблеме в реальном времени. В Институте биологии южных морей (ИнБЮМ) РАН решили использовать черноморских аурелий.

У этих медуз есть особенность: попав в грязную воду, они сбиваются с ритма. Частота сокращений их желеобразного «мотора» резко меняется.

Однако раньше человек не мог уловить эти нюансы. За дело взялся искусственный интеллект.

Экспериментаторы поместили медуз в аквариум и начали снимать их на камеру. Нейросеть анализировала 11 параметров: от частоты пульса до кривизны траектории.

Когда в чистую воду капнули дизельного топлива, медузы «занервничали». Но каждая — по-своему.

Одни медузы от токсинов разгоняли купол, как бешеное сердце, а другие впадали в депрессию и еле шевелились. Разработчики создали алгоритм, который запомнил индивидуальную норму каждой особи.

Как только поведение конкретной медузы отклонялось от собственного графика — система била тревогу. Исполнитель проекта Елена Вышкваркова пояснила МК, что для чистоты эксперимента и исключения ложных срабатываний в аквариуме должно находиться не менее четырёх особей.

Если изменения в поведении фиксируются у четырёх и более медуз одновременно, можно быть уверенным: это реакция на внешнее химическое воздействие. Сейчас систему биомониторинга готовят к работе в прибрежной зоне.

Принцип прост: сквозь проточный аквариум постоянно гонят забортную воду, а камеры следят за пульсацией куполов. В скором времени планируется создание специальной спускаемой установки, которую можно будет выводить в открытое море прямо с борта судна.

Это позволит мониторить экологическую обстановку на судоходных путях и вокруг морских платформ.

Московский комсомолец

Найден новый минерал
Сергей Кривовичев, генеральный директор Кольского научного центра РАН (КНЦ РАН) и академик РАН, вместе с коллегами обнаружил новый минерал серебристого цвета на Кировском руднике.

Учёные из КНЦ РАН, а затем и специалисты из Санкт-Петербургского государственного университета и Минералогического музея имени Ферсмана подключились к исследованию. В Хибинском массиве был найден редкоземельный силикат — соединение, содержащее редкоземельные металлы.

Сергей Владимирович отмечает, что малое количество минерала пока не позволяет полностью изучить его свойства, но состав обещает быть многообещающим. В минерале обнаружен редкоземельный металл иттрий с уникальными электронными характеристиками, лантаноиды иттриевой группы, а также кремний, калий, натрий, кальций, фтор и марганец.

Их сочетание может дать непредсказуемые свойства. Учёный подчёркивает сложность кристаллической структуры минерала, которому дали условное обозначение КА (кольский ашкрофтин).

Среди всех известных минералов его структура относится к числу наиболее сложных. «Иголки» минерала — это редкие силикатные трубки диаметром 1,5–2 нанометра, или нанотубулены, как называют их химики.

Сергей Кривовичев комментирует: «Интересно сочетание нанотубуленов с редкими землями. Трубки ведь полые, а значит, в них путём ионного обмена можно поместить небольшую молекулу или магнитный ион и дальше посмотреть, что с этим материалом можно делать».

Полученное соединение может обладать интересными физическими свойствами. Редкие земли сами по себе обладают ценными свойствами и являются основой современной технологичной промышленности.

Иттрий добавляют в металлы для прочности и улучшения жаростойкости. Редкоземельные металлы используют в моторах для электромобилей, в электронике и энергетике, они входят в состав высокотемпературных сверхпроводников и лазерных материалов.

Пока рано заглядывать в будущее, прежде чем экспериментировать с полученным минералом КА, его нужно сначала синтезировать, чтобы получить в большем количестве. Затем нужно определить, тот ли это ашкрофтин, что был найден 100 лет назад в Гренландии, или нет.

Не исключено, что ответ будет отрицательным. Работы, которые проводились с тем ашкрофтином 100 лет назад, не отвечают современным запросам.

Например, иттрий там изначально приняли за алюминий. Чтобы точно сказать, совпадают ли КА и гренландский ашкрофтин, нужно получить голотипные образцы — первичный материал, собранный в начале прошлого века.

Но это сейчас сделать очень сложно. Образцы хранятся в Лондонском Музее естественной истории и в Смитсониевском музее в Вашингтоне.

Учёные предполагают, что КА и гренландский ашкрофтин — немного разные минералы, ведь в составе КА есть фтор, а англичане (правда, это было сто лет назад) в своём образце фтора не нашли. Создать рукотворную копию природного минерала, который формируется в течение длительного геологического времени, очень сложно, но пробовать надо.

Московский комсомолец

Нейросеть
Изучены связи страхов и бессонницы
Рэйчел Мензис провела исследование, в котором приняли участие 515 взрослых человек.

Их набирали через СМИ и социальные сети. Среди участников 70 % составляли женщины, 89 % были из Австралии, средний возраст — 44 года.

Участники заполнили опросники, которые оценивали их страх смерти, стиль привязанности, уровень тревожности, тяжесть бессонницы и интенсивность ночных кошмаров. Результаты показали, что высокий уровень тревоги перед смертью связан с более тяжёлыми ночными кошмарами, которые, в свою очередь, усиливают бессонницу.

Авторы исследования отметили, что страх смерти — это эмоциональное расстройство, которое может включать страх боли, потери контроля, разлуки с близкими, небытия или неопределённости относительно того, что происходит после смерти. В некоторой степени этот страх может побуждать людей искать смысл жизни и защищать себя, но при интенсивном или стойком проявлении он способствует избеганию, чрезмерному беспокойству о здоровье, паническим атакам и снижению удовольствия от повседневной жизни.

Теперь к этому списку добавились серьёзные нарушения сна. Интересно, что стиль привязанности, который мог смягчать или усиливать эту связь, не сыграл никакой роли.

Это позволяет предположить, что воздействие страха смерти на сон является прямым и не зависит от того, насколько человек чувствует себя защищённым в своих отношениях. Исследование имеет свои ограничения, включая перекрёстный дизайн, который не позволяет делать причинно-следственные выводы, а также использование самоотчётов, что оставляет место для предвзятости.

Однако полученные данные открывают новые перспективы для клинической практики. Если тревога смерти действительно стала важным фактором бессонницы, то психотерапевтические вмешательства, направленные на снижение страха перед смертью, могут стать эффективным дополнением к традиционным методам лечения нарушений сна.

Это особенно актуально для пожилых людей, людей с тяжёлыми заболеваниями или тех, кто недавно пережил потерю близких. Осознание собственной уязвимости и смертности в такие моменты обостряется и может вызывать мучительные ночные кошмары, которые закрепляют бессонницу, создавая замкнутый круг, из которого без специальной помощи выбраться крайне сложно.

Московский комсомолец

Исследователь выявил влияние культуры на восприятие красоты
Томохиро Сузуки, исследователь, решил проверить теорию о том, что определённые пропорции тела считаются привлекательными во всех культурах, независимо от географии.

Для этого он создал инструмент на основе реальных данных о японских женщинах старше двадцати лет, предоставленных местной компанией по производству одежды. С помощью этого инструмента были созданы трёхмерные имитационные модели, спроецированные на двухмерные силуэты, чтобы избежать искажений, которые часто встречаются в предыдущих исследованиях.

В тех работах использовались отредактированные фотографии или рисунки, создающие неестественные формы тела. В исследовании приняли участие 398 японских мужчин в возрасте от 20 до 59 лет.

Они оценили шестнадцать уникальных силуэтов с четырьмя различными соотношениями талии и бёдер и четырьмя соотношениями талии и бюста — 0,6, 0,7, 0,8 и 0,9. Все силуэты имели здоровый индекс массы тела от 20 до 22, чтобы исключить влияние общего веса на предпочтения.

Результаты показали, что соотношение талии и бёдер практически не повлияло на оценки привлекательности, в то время как соотношение талии и бюста оказало значительное воздействие. Силуэты с показателями 0,6 и 0,7 получили самые высокие оценки как за эстетическую, так и за сексуальную привлекательность.

При увеличении до 0,8 и 0,9 оценки резко падали. Эти предпочтения оставались неизменными во всех возрастных группах.

Сузуки был удивлён, что результаты не подтвердили широко распространённое мнение о соотношении 0,7 как универсальном идеале. Он подчеркнул, что это демонстрирует глубокое культурное влияние.

Пропорция 0,6, которую мужчины предпочли с небольшим отрывом, требует при стандартной талии 65 сантиметров окружности бюста около 108 сантиметров, что стало редким явлением среди японских женщин. Исследователи связывают это с воздействием современной поп-культуры, где в анимации, комиксах и цифровых медиа часто изображаются преувеличенные формы тела, формирующие стандарты красоты, далёкие от биологической реальности.

В японской культуре традиционно отдаётся предпочтение общему размеру тела и худобе, а не конкретным формам, а также отдается предпочтение ягодицам меньшего размера. Такое культурное влияние оказалось сильнее эволюционных инстинктов.

В западных исследованиях большее внимание к бёдрам связывалось с оценкой репродуктивного здоровья и фертильности. В будущем учёные планируют расширить исследование, включив женщин-участниц и представителей других этнических групп.

Это поможет определить границу между культурными предпочтениями и универсальными биологическими инстинктами, а также разработать более совершенные методы разделения эстетической и сексуальной привлекательности. Сузуки отметил, что представления о привлекательной форме тела сильно различаются в разных культурах, и идеальная красота в значительной степени определяется культурным контекстом, а не фиксированным универсальным правилом.

Понимание этих механизмов поможет глубже осознать, как внешность влияет на психологическое благополучие людей в повседневной жизни.

Московский комсомолец

Другие новости