Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Исследуются возможности ИИ в оценке личности
В исследовании приняли участие 645 человек.

С каждым из них было проведено интервью, после чего участники прошли тестирование для определения черт личности и моральных ценностей. Всего было проанализировано 38 показателей.

Полученные материалы интервью были переданы пяти известным большим языковым моделям (LLM), чтобы они самостоятельно спрогнозировали ответы каждого участника на вопросы психологических тестов. Таким образом, специалисты решили проверить, насколько прогнозы ИИ совпадают с выводами психологов.

Оказалось, что искусственный интеллект пока лучше всего воспроизводит те черты характера человека, о которых тот сам говорит в интервью, описывая себя. Например, уровень религиозности, экстраверсию или интроверсию и так далее.

Однако менее очевидные мотивы, скрытая тревожность, гедонистические установки или представления о справедливости остались вне поля зрения LLM. Кроме того, исследователи обнаружили эффект идеализации человека: большие языковые модели высоко оценивали его доброту и честность, но занижали баллы по таким показателям, как нарциссизм, макиавеллизм и психопатия.

Это исследование показало, что нельзя полностью доверять ИИ в оценке человеческой личности без дополнительной проверки и калибровки. Автор текста — Мария Быкова.

Московский комсомолец

Измерь гравитацию мюония
В соответствии с теорией относительности Эйнштейна гравитация не делает различий между материей и антиматерией, и всё должно падать одинаково.

Однако физика не устанавливает правила, а лишь описывает их. Анна Сотер, физик из Цюрихской высшей технической школы, отметила, что сделан важный шаг к проведению эксперимента, цель которого — измерить гравитационное взаимодействие мюона.

Для этого исследователям нужен мюоний — короткоживущая атомоподобная частица, состоящая из положительно заряженного антимюона и отрицательно заряженного электрона. Почти вся масса мюония приходится на его антивещественный компонент.

В 2023 году эксперимент показал, что антиводород (антипротон в паре с позитроном) падает на Землю так же, как и обычная материя. Это было новаторским открытием, но протоны и антипротоны не считаются фундаментальными частицами, поскольку это сложные объекты, состоящие из кварков, а антимюон — элементарная частица, принадлежащая ко второму поколению фундаментальных частиц.

Поэтому гравитационный эксперимент с мюонием привёл бы к переходу на территорию свободного падения, которую не удавалось исследовать ни в одном другом эксперименте. Мюоний очень хорошо подходит для этого, потому что это нейтральный атом.

Отмечается, что мюоний распадается около 2,2 микросекунды. Чтобы провести эксперимент, нужно начать с большого количества мюония, чтобы достаточное его количество сохранялось достаточно долго для измерения после падения.

Существующие мюониевые источники не очень хороши в этом, поскольку создают рассеянные тепловые лучи, распыляющие атомы в широком диапазоне углов и скоростей. Исследователи придумали другой план — запустить антимюоны в слой сверхтекучего гелия, охлаждённого примерно до 0,2 Кельвина, где антимюоны быстро теряют энергию и останавливаются прямо под его поверхностью.

Там антимюон может подхватить электрон, который остался на его пути, когда он пролетел сквозь гелий, образуя мюоний. Сверхтекучая жидкость делает нечто чрезвычайно полезное, поскольку мюонию не нравится находиться внутри сверхтекучего гелия, и взаимодействие между ними придаёт мюонию дополнительную энергию, эффективно выталкивая новообразованные атомы к поверхности.

Когда они достигают её, они вырываются в вакуум наверху со скоростью, во многом определяемой этим энергетическим всплеском, в отличие от случайного теплового движения. В результате получается упорядоченный поток мюония, вылетающий со скоростью около 2,2 километра в секунду с гораздо меньшим разбросом скоростей.

Однако эксперимент ещё не совсем готов к измерению того, как гравитация воздействует на частицы, поскольку луч в данный момент направлен не в ту сторону: сверхтекучий гелий выбрасывает мюоний вертикально вверх, а чтобы измерить его ускорение под действием силы тяжести, исследователям нужно, чтобы частицы перемещались горизонтально.

Московский комсомолец

Исследуют древнюю крепость
Крепость Телль-аль-Абкайн в дельте Нила, в провинции Бухейра (Египет), была построена в эпоху Нового царства (1570–1069 годы до нашей эры) для защиты от ливийских племён.

Среди находок — большой жилой комплекс из глиняного кирпича с улицами, зернохранилища и гончарные печи для приготовления пищи. По словам Хишама Эль-Лейти, генерального секретаря Высшего совета по древностям, находки подтверждают наличие городского планирования и системы управления ресурсами в крепости.

Одним из самых интересных открытий стало захоронение молодого самца лошади. Мохаммед Абдель-Бади, глава сектора египетских древностей, пояснил, что предварительные исследования показывают: животное принадлежало к породе среднего размера, отличавшейся скоростью и ловкостью.

Исследователи считают, что такие лошади использовались в военных целях, в том числе для перевозки боевых колесниц в Новом царстве. Поза животного, ориентация головы и упорядоченный характер захоронения указывают на намеренное погребение, что позволяет предположить, что животному были оказаны почести.

В нескольких метрах от захоронения археологи нашли цилиндрические куски алебастра и известняка, которые, вероятно, были частью сбруи лошадиной колесницы. Это подтверждает теорию о военном назначении места.

Также была обнаружена часть известняковой стелы с изображением заключённого, согнувшегося в покорной позе со связанными руками. Судя по одежде, он был ливийским заключённым.

Команда нашла религиозные амулеты, связанные с защитой, плодородием, обновлением и силой, а также глиняные сосуды, остраконы, инструменты, украшения и другие артефакты.

Московский комсомолец

Учёный находит древний фрагмент Одиссеи
Учёный Де Крей сделал открытие около двух лет назад, но университет объявил о находке только сейчас.

В пресс-релизе учебного заведения говорится, что учёный обнаружил крошечный листок бумаги при изучении коллекции раннехристианских рукописей, приобретённых университетом в середине XX века. Сначала исследователи предположили, что это листок VII века, так как в коллекции уже были найдены похожие фрагменты на египетском языке.

Однако Де Крей узнал некоторые выражения на бумаге и определил, что это часть «Одиссеи» Гомера. Как он заявил голландскому телеканалу RTV Utrecht, каждый, кто изучает греческий, узнает Гомера.

В университете сообщили, что исследователи смогли датировать найденный фрагмент примерно 300 годом нашей эры. Отмечается, что во всём мире существует всего около 30 таких фрагментов.

Де Крей назвал себя охотником за сокровищами благодаря своей работе. «Каждый день находишь что-то приятное, и это одно из них», — сказал он.

По словам представителей университета, этот листок бумаги был взят из карманного издания полного собрания сочинений, принадлежащего человеку, живущему в египетском оазисе Файюм. Фрагмент имеет размер с игральную карту.

Исследователи отмечают, что фрагмент обесцвечен, на нём есть пятна от влаги, а на обеих сторонах присутствуют надписи. Этот фрагмент взят из 12-й книги «Одиссеи», где Одиссей рассказывает историю о своих голодающих моряках, пожиравших скот, который был посвящён богу Солнца Аполлону.

Этот момент наступает примерно в середине поэмы. Как подчеркнул Де Крей в интервью, в «Одиссее» очень много скучных частей, но этот отрывок действительно забавный.

Московский комсомолец

Другие новости