Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Исследуют древнюю крепость
Крепость Телль-аль-Абкайн в дельте Нила, в провинции Бухейра (Египет), была построена в эпоху Нового царства (1570–1069 годы до нашей эры) для защиты от ливийских племён.

Среди находок — большой жилой комплекс из глиняного кирпича с улицами, зернохранилища и гончарные печи для приготовления пищи. По словам Хишама Эль-Лейти, генерального секретаря Высшего совета по древностям, находки подтверждают наличие городского планирования и системы управления ресурсами в крепости.

Одним из самых интересных открытий стало захоронение молодого самца лошади. Мохаммед Абдель-Бади, глава сектора египетских древностей, пояснил, что предварительные исследования показывают: животное принадлежало к породе среднего размера, отличавшейся скоростью и ловкостью.

Исследователи считают, что такие лошади использовались в военных целях, в том числе для перевозки боевых колесниц в Новом царстве. Поза животного, ориентация головы и упорядоченный характер захоронения указывают на намеренное погребение, что позволяет предположить, что животному были оказаны почести.

В нескольких метрах от захоронения археологи нашли цилиндрические куски алебастра и известняка, которые, вероятно, были частью сбруи лошадиной колесницы. Это подтверждает теорию о военном назначении места.

Также была обнаружена часть известняковой стелы с изображением заключённого, согнувшегося в покорной позе со связанными руками. Судя по одежде, он был ливийским заключённым.

Команда нашла религиозные амулеты, связанные с защитой, плодородием, обновлением и силой, а также глиняные сосуды, остраконы, инструменты, украшения и другие артефакты.

Московский комсомолец

Учёный находит древний фрагмент Одиссеи
Учёный Де Крей сделал открытие около двух лет назад, но университет объявил о находке только сейчас.

В пресс-релизе учебного заведения говорится, что учёный обнаружил крошечный листок бумаги при изучении коллекции раннехристианских рукописей, приобретённых университетом в середине XX века. Сначала исследователи предположили, что это листок VII века, так как в коллекции уже были найдены похожие фрагменты на египетском языке.

Однако Де Крей узнал некоторые выражения на бумаге и определил, что это часть «Одиссеи» Гомера. Как он заявил голландскому телеканалу RTV Utrecht, каждый, кто изучает греческий, узнает Гомера.

В университете сообщили, что исследователи смогли датировать найденный фрагмент примерно 300 годом нашей эры. Отмечается, что во всём мире существует всего около 30 таких фрагментов.

Де Крей назвал себя охотником за сокровищами благодаря своей работе. «Каждый день находишь что-то приятное, и это одно из них», — сказал он.

По словам представителей университета, этот листок бумаги был взят из карманного издания полного собрания сочинений, принадлежащего человеку, живущему в египетском оазисе Файюм. Фрагмент имеет размер с игральную карту.

Исследователи отмечают, что фрагмент обесцвечен, на нём есть пятна от влаги, а на обеих сторонах присутствуют надписи. Этот фрагмент взят из 12-й книги «Одиссеи», где Одиссей рассказывает историю о своих голодающих моряках, пожиравших скот, который был посвящён богу Солнца Аполлону.

Этот момент наступает примерно в середине поэмы. Как подчеркнул Де Крей в интервью, в «Одиссее» очень много скучных частей, но этот отрывок действительно забавный.

Московский комсомолец

Изучают сжатие Меркурия
Гаку Нисияма, планетолог из Института космических исследований Германского аэрокосмического центра, утверждает, что учёные всё ближе подходят к пониманию истинной эволюции Меркурия.

Планета сжимается уже 4,5 миллиарда лет из-за остывания после своего огненного рождения. По данным New York Post, скорость сжатия может быть на 30 % выше, чем предполагалось ранее.

Меркурий уменьшился в размерах на 22 километра. Это значительная потеря, учитывая, что его диаметр составляет около 4800 километров — это треть диаметра Земли.

Изучение Меркурия, первой планеты Солнечной системы, удалённой от Солнца, затруднено из-за ослепительного света нашей звезды. Это также вторая по температуре планета после Венеры, где днём температура достигает 427 °C.

Учёные использовали данные с космического аппарата «Мессенджер», который более четырёх лет находился на орбите Меркурия. С помощью сканеров «Мессенджера» они изучили особые гребни, известные как сокращающиеся структуры.

По мере сжатия планеты таких образований становится больше, подобно морщинам, которые появляются с возрастом. Многие из «морщин» Меркурия скрыты за обломками и кратерами, образовавшимися в результате столкновений с астероидами и других бомбардировок.

Это затрудняет их подсчёт, отмечает Scientific American. Чтобы решить эту проблему, Нисияма собрал двухмерные изображения, полученные с помощью системы двойной визуализации «Мессенджера».

Затем он объединил их так, чтобы каждый участок поверхности был сфотографирован дважды. Это позволило исследователям составить сверхдетализированную карту рельефа.

Учёные обнаружили, что «морщин» гораздо больше, чем считалось ранее. Это указывает на степень сжатия Меркурия.

Гаку Нисияма считает, что изучение этой меркурианской рецессии может помочь лучше понять, что происходит под каменистой корой планеты, и, возможно, пролить свет на процессы сжатия на других планетах.

Московский комсомолец

Учёные исследуют минералы в алмазах
Феликс Витольдович рассказал, что минералы в составе алмазов стали находить и изучать около 50 лет назад.

Пионерами в этом деле были американец Генри Мейер и советский учёный Николай Соболев из Новосибирска. Они первыми исследовали включения в алмазах в 1970-х годах и выявили минеральный состав пород, в которых образуются алмазы.

В первые десятилетия были известны включения только из верхней мантии Земли, откуда на поверхность поступали сами алмазы в результате извержений кимберлитовой магмы. Лишь на рубеже XX и XXI века учёным начали попадаться включения из нижней мантии.

Это произошло потому, что раньше их не ожидали, предполагали, что алмазы образуются только в верхней мантии. Альфред Рингвуд, австралийский учёный, уже в своих работах 1970–80-х годов предполагал, что в более глубоких горизонтах Земли, в переходной зоне и нижней мантии, могут быть встречены включения в алмазах новых, сверхглубинных минералов.

Оказалось, что алмазоносные породы — кимберлиты — образуются в нижней мантии. Они аккумулируют все включения мантийных минералов, включая алмаз, и выносят их на поверхность через трубки взрыва — вертикальные геологические образования, которые образуется при прорыве магмы сквозь земную кору.

Первые находки таких минералов были сделаны на рубеже столетий в бразильских алмазах. Феликс Витольдович вёл поисковые работы в районе Джуина в Бразилии и обнаружил в алмазах необычные включения, которые предсказал Рингвуд.

Кроме Бразилии, места с главными находками глубинных алмазов с редкими минералами известны только в россыпях Гвинеи. В последние годы находки алмазов с минеральными включениями из нижней мантии и переходной зоны были сделаны в Канаде, Южной Африке, Австралии, но они немногочисленны.

Учёным до находки бернвудита были известны три главных минерала: бриджманит, дейвмаоит, ферропериклаз, а также некоторые менее распространённые — всего около десятка. Они слагают нижнюю мантию и переходную зону к верхней мантии Земли.

Феликс Витольдович рассказал, что алмаз со множественными мельчайшими включениями был найден им в пробе из россыпи Рио Соррисо в районе Джуина, в Бразилии, в начале 2000-х годов. В течение длительного времени он не мог должным образом исследовать включения, поскольку для этого требовались сильные электронные микроскопы и другие приборы для их идентификации.

Когда появилась возможность, образец отправили в Американский музей естественной истории в Нью-Йорке, где при помощи новейшей аппаратуры коллеги и другие исследователи из Германии смогли детально изучить включения в найденном алмазе. Трудность была в том, что включения были субмикронных размеров, а требовалось определить не только состав, но и структуру минералов.

Это была очень сложная, кропотливая работа, которая позволила выявить, что одно из включений является новым, неизвестным минералом.

Московский комсомолец

Другие новости