Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Исследователи изучили экосистемы желобов
В ходе российско-китайской экспедиции в Курило-Камчатском и западной части Алеутского желобов Тихого океана учёные Национального научного центра морской биологии им.

А. В.

Жирмунского ДВО РАН и Института глубоководных наук и инженерии Китайской академии наук изучили уникальные донные экосистемы. На глубинах от 5660 до 6930 метров были обнаружены симбиотрофные гидробионты — водные организмы, получающие энергию за счёт симбиоза с другими организмами.

Это позволяет им выживать в условиях дефицита пищи или в экстремальных средах. Среди открытых глубоководных и наиболее многочисленных морских организмов учёные обнаружили тех, кто функционирует на основе хемосинтеза и метанотрофии.

Хемосинтез — это способ питания, при котором живые организмы создают органические вещества из углекислого газа, не используя солнечный свет, а за счёт химических реакций окисления неорганических соединений. Метанотрофия — это способность особых микроорганизмов (бактерий и архей) использовать в качестве единственного источника углерода и энергии газ метан.

Результаты совместного исследования были опубликованы в журнале Zoologischer Anzeiger — A Journal of Comparative Zoology. Исследование проводилось на борту научно-исследовательского судна Tan Suo Yi Hao с использованием пилотируемого подводного батискафа «Fendouzhe», название которого переводится с китайского языка как «Борец» (или «Труженик»).

Авторы статьи — Геннадий Каменев и Чжао-Мин Гао — сообщили, что вид моллюсков под названием Abyssogena phaseoliformis впервые был обнаружен в западной части Алеутского желоба. Вид Calyptogena fossajaponica оказался неизвестен учёным, и после молекулярно-генетических исследований биологи пришли к выводу, что он относится к новому, ещё не описанному в биологии роду.

Учёные обнаружили в западной части Алеутского желоба огромные скопления моллюсков, располагающихся примерно по 300 особей на квадратный метр. Оказалось, что среди других видов донных сообществ (многощетинковых трубчатых червей, равноногих раков и актиний) открытые виды моллюсков доминируют.

Например, Abyssogena phaseoliformis с длиной раковины до 222 миллиметров насчитывается до нескольких десятков тысяч особей на глубинах около 6000 метров. Идентификация двух видов моллюсков была проведена с помощью анализа ДНК.

Кроме того, исследователи дали полное описание морфологии раковины и общей анатомии тела этих недостаточно полно исследованных видов. Эта работа дополнила знания о биоразнообразии и экологии самых глубоководных частей Тихого океана, доказав, что они не являются необитаемыми.

Московский комсомолец

Выявлены сильные и слабые стороны топ-менеджеров
В онлайн-опросе приняли участие свыше 400 топ-менеджеров из крупных и средних российских компаний.

Им предложили оценить управленческие компетенции своих коллег и спрогнозировать востребованность этих компетенций в ближайшие три года. Исследование позволило определить пять наиболее развитых управленческих качеств среди руководителей высшего звена, владельцев, основателей предприятий, руководителей функциональных подразделений и проектов.

Среди них: * самодисциплина (её отметили 65 % опрошенных); * развитие сети профессиональных контактов (59 %); * контроль за качеством исполнения задач (56 %); * ежедневная расстановка приоритетов (54 %); * коммуникации (52 %). Также были выявлены слабые стороны топ-менеджеров.

Основной проблемой стало внедрение и использование новых технологий. Так, 74 % респондентов указали на недостаточное привлечение в работу ИИ-агентов, 71 % — на низкий процент создания рабочих процессов с учётом возможностей ИИ, 68 % — на недостаточное использование искусственного интеллекта в управлении организациями и предприятиями, 66 % — на слишком малую долю использования в работе больших языковых моделей (LLM).

Кроме того, среди «слабых» сторон современных менеджеров оказалось умение выявлять индивидуальную мотивацию сотрудников (его отметили 67 % опрошенных). При этом 62 % участников опроса выразили мнение, что в ближайшие три года спрос на вышеуказанные навыки возрастёт.

Московский комсомолец

Готовься к квантовому взлому
Эксперты с Запада предупреждают о «квантовом апокалипсисе» — глобальном кризисе кибербезопасности, который может наступить раньше ожидаемого срока.

Доктор юридических наук, заслуженный юрист России, заведующий кафедрой международного права РГСУ профессор Юрий Жданов объясняет, что это может быть не просто всемирный компьютерный сбой, а массовый взлом. По словам экспертов CNN, приближается «День Q» — дата, когда квантовые вычисления смогут быстро взламывать ключи шифрования, обеспечивающие безопасность большинства интернет-коммуникаций.

Google предупредил, что квантовые компьютеры могут взломать некоторые зашифрованные системы к 2029 году. Это значительно сокращает время для защиты данных.

Профессор Микеле Моска, соучредитель и генеральный директор компании evolutionQ, утверждает, что «День Q» — это момент, когда квантовый компьютер получит достаточно ресурсов и стабильности, чтобы взломать обычную криптографию. Моска и его соавторы основывали свой прогноз на мнениях 26 экспертов.

В отчёте «Хронология квантовых угроз» предполагалось, что создание полномасштабного, криптографически значимого квантового компьютера «вполне возможно» в течение следующих 10 лет и «вероятно» в течение следующих 15 лет. Компания Google заявила, что планирует завершить переход к 2029 году «с помощью постквантовой криптографии», чтобы обеспечить безопасность квантовой эры.

В блоге компании говорится, что этот срок отражает достижения в области квантовых вычислений. Сотрудники Google и учёные из Калифорнийского университета в Беркли, Стэнфордского университета и некоммерческой организации Ethereum Foundation подготовили статью, в которой утверждают, что будущие квантовые компьютеры могут быть способны взламывать криптографию второго поколения, защищающую криптовалюты и другие системы.

Криптография RSA, названная в честь своих создателей Рона Ривеста, Ади Шамира и Леонарда Адлемана, использует математическую особенность. В отличие от стандартных компьютеров, квантовые компьютеры используют квантовые биты — «кубиты», которые могут одновременно представлять и 0, 1 или и то, и другое.

Это свойство позволяет квантовым машинам хранить и обрабатывать более сложную информацию. Кэтрин Маллиган, приглашённый научный сотрудник Института науки и технологий безопасности Имперского колледжа Лондона, назвала предупреждения Google «предупреждающим выстрелом», особенно для криптовалютного сообщества.

Она отметила, что правительства, включая Соединённые Штаты и Великобританию, опубликовали стандарты для постквантовой криптографии. Эксперты считают, что квантовая криптография позволяет двум сторонам, желающим обменяться конфиденциальными данными, установить надёжный ключ шифрования, секретность которого обеспечивается законами физики, а не вычислительной сложностью математической задачи.

Однако этот метод требует специального оборудования, что может сделать его более дорогим и сложным в применении.

Московский комсомолец

Яблоки поддерживают здоровье
Учёные проанализировали данные 38 клинических исследований и пришли к выводу, что регулярное употребление яблок может положительно влиять на уровень сахара в крови, состояние сосудов и кишечную микрофлору.

Работа опубликована в журнале Food amp; Function (Famp;F). В исследованиях рассматривались как свежие яблоки, так и продукты на их основе.

В краткосрочных экспериментах учёные чаще всего изучали влияние яблок на уровень глюкозы после еды и антиоксидантную защиту организма. Более длительные исследования были направлены на изучение показателей сердечно-сосудистого здоровья, воспаления, окислительного стресса и состава кишечной микробиоты.

Анализ показал, что яблоки могут улучшать контроль уровня сахара в крови, повышать антиоксидантную активность и поддерживать нормальную функцию сосудистого эндотелия — внутреннего слоя сосудов, который отвечает за их эластичность и работу. При длительном употреблении также наблюдались признаки улучшения состава кишечной микрофлоры.

Исследователи подчёркивают, что для окончательных выводов данных пока недостаточно. Однако учёные считают, что яблоки остаются важной частью здорового рациона благодаря содержанию клетчатки, витаминов и биологически активных веществ.

Их потенциальная польза для обмена веществ заслуживает дальнейшего изучения.

Лента ру

Другие новости