Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Роботы атакуют: споры в сети
В интернете стремительно распространилась видеозапись, на которой человекоподобный робот атакует человека с применением боевых приёмов.

Количество просмотров ролика превысило 13 миллионов. На кадрах видно, как гуманоид отрабатывает технику кунг-фу со своим инструктором.

Этот инцидент вызвал бурные дискуссии в сети о безопасности технологий искусственного интеллекта. Об этом сообщает «Российская газета».

Ранее в Китае уже была ситуация, вызвавшая широкий общественный резонанс: танцующий робот неверно рассчитал движение и задел ребёнка. Подобные случаи с антропоморфными машинами нередки.

Эксперты считают, что потеря контроля над роботами становится всё более тревожной тенденцией. Одни специалисты объясняют такие инциденты программными сбоями, другие выражают обеспокоенность растущей физической мощью гуманоидов.

Московский комсомолец

Искусственные леса обгоняют природные по росту
Учёные Пекинского университета под руководством Юйхана Ло выяснили, что в Китае искусственные лесные массивы развиваются быстрее, чем природные.

Проект «Великая зелёная стена», начавшийся в 1978 году, был направлен на то, чтобы остановить продвижение пустынь Гоби и Такла-Макан. За это время было высажено 66 миллиардов деревьев, а к середине текущего века власти Китая планируют добавить ещё 34 миллиарда насаждений.

Спутниковые снимки показывают, что формирование листового покрова в искусственных лесах происходит на 66% быстрее, чем в естественных. Эксперты считают, что такая разница обусловлена возрастом деревьев, регулярным уходом за ними и использованием быстрорастущих пород.

При одинаковых условиях искусственные посадки опережают природные на 4,6% по скорости роста. Однако с течением времени естественные леса оказываются более устойчивыми.

Кевин Д’Соуза из Университета Ватерлоо подчёркивает важность грамотного управления лесным хозяйством. Он отмечает, что необходимо правильно выбирать время для посадки, подходящие виды растений и обеспечивать надлежащий уход.

Лесные пожары в Сибири ранее выявили серьёзные пробелы в законодательстве, связанные с управлением лесными ресурсами.

Московский комсомолец

Создан инструмент для правки наследственного кода грибов
В журнале «Природные биотехнологии» опубликована работа учёных, которые создали новый инструмент для корректировки наследственного кода грибов.

Этот инструмент может ускорить процесс поиска лекарств, включая противоопухолевые препараты. Метод позволил активировать ранее нефункционирующие участки наследственной программы грибов и получить сложные молекулы, которые не образуются в обычных лабораторных условиях.

Речь идёт о нитчатых грибах — большой группе организмов, к которой относятся плесневые грибы, уже сыгравшие значительную роль в медицине. Учёные считают, что большая часть лекарственного потенциала грибов до сих пор остаётся скрытой.

В природе грибы производят сложные вещества для защиты от бактерий, конкурентов и других угроз. В лаборатории многие такие участки наследственной программы просто не активируются.

Новая система позволяет точечно вмешиваться в работу наследственного кода грибов без грубого разрыва двойной спирали ДНК. Это важно, потому что обычные методы правки у нитчатых грибов часто вызывают лишние изменения и хуже подходят для поиска конкретных полезных веществ.

Учёные добились высокой точности закрепления правок в клетке. Для этого им пришлось решить две технические задачи: защитить длинные направляющие молекулы от разрушения внутри клетки и временно ослабить естественный механизм ремонта ДНК у гриба.

Эффективность внесения правок приблизилась к 90 процентам. После вмешательства в один из регуляторных генов учёные получили 18 сложных молекул, восемь из которых имели ранее неизвестное строение.

Это означает, что исследователям удалось не просто улучшить старый способ работы с грибами, а открыть доступ к веществам, которые раньше оставались недоступными для обычного выращивания в лаборатории. Особое внимание привлекли три найденные молекулы, показавшие перспективные противоопухолевые свойства.

Одна из них действовала избирательно против клеток рака молочной железы, печени и лейкоза. Это пока не лекарство, а ранний лабораторный результат.

Такие вещества ещё нужно проверить на безопасность, механизм действия, возможную токсичность, дозировки и эффективность в живых организмах. Новый метод меняет сам подход к поиску препаратов.

Вместо случайного поиска редких грибов в природе учёные получают способ системно включать скрытые участки уже известных организмов и смотреть, какие вещества они способны производить. Это может ускорить поиск новых антибиотиков, противоопухолевых соединений и других лекарственных кандидатов.

Автор: Пётр Осинцев.

Московский комсомолец

Учёные нашли способ удешевить микроводорослевые удобрения
Сельхозпредприятия применяют минеральные и органические удобрения для получения хорошего урожая.

Однако у каждого вида удобрений есть свои недостатки. Неорганические соединения могут приводить к закислению почвы, а органические, такие как навоз или торф, могут содержать нежелательные микроорганизмы и антибиотики.

В ПНИПУ предложили альтернативу — микроводоросли из морей и рек. Они содержат полезные макроэлементы (азот, фосфор, калий), а также микроэлементы, витамины и фитогормоны, которые улучшают рост сельхозрастений.

Однако высокая себестоимость размножения микроводорослей, требующая содержания дорогостоящих биореакторов, ограничивала их использование. Молодые учёные нашли способ вырастить микроводорослевую культуру более дешёвым и эффективным способом, насытив её дымовым газом — аналогом того, что вылетает из труб промышленных предприятий.

Этот газ содержит более концентрированную, чем в атмосферном воздухе, углекислоту, которая способствует фотосинтезу и быстрому росту микроводорослей. На следующем этапе учёные проверили, как семена рапса будут чувствовать себя с удобрением, полученным таким образом.

Испытания показали, что длина и масса проростков рапса с микроводорослями увеличились на 13% по сравнению с контрольной посадкой, всхожесть выросла до 97%, а скорость прорастания — на 6%. Раньше дымовой газ с предприятий выбрасывался в атмосферу, усиливая парниковый эффект.

Теперь, благодаря идее пермских учёных, его можно использовать для улучшения урожая.

Московский комсомолец

Другие новости