Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Среди экспонатов — корона, принадлежавшая Александру Ягеллону, королю Польши и великому князю литовскому, который жил в 1461–1506 годах. Также там были спрятаны корона, скипетр, держава, три кольца, цепь и надгробные таблички, связанные с Барбарой Радзивилл, которая была замужем за Сигизмундом II Августом, королём Польши и великим князем литовским, и умерла в 1551 году.

«Обнаруженные в захоронении знаки отличия монархов Литвы и Польши являются бесценными историческими сокровищами, символами давних традиций литовской государственности, признаками Вильнюса как столицы и великолепными произведениями ювелирного искусства», — заявил архиепископ Виленский Гинтарас Грушас. Согласно заявлению, артефакты были бы помещены в саркофаги членов королевской семьи, когда они были похоронены.

Короны не были бы надеты, вместо этого они были бы сделаны после смерти, чтобы стать частью усыпальницы. «Это отражает обычаи погребения и почитания того времени», — говорится в заявлении.

«Это открытие имеет особое значение для нашей государственности, поскольку оно показывает местоположение Вильнюсского кафедрального собора как некрополя элиты Великого княжества Литовского», — отмечается в заявлении. «Эти символы важны как для государства, так и для каждого из нас, как знаки европейской идентичности, как восстановленная идентичность старого государства, как знак силы наших корней», — говорится в заявлении Риты Паулюкявичюте, директора Музея церковного наследия Вильнюса.

Впервые эти предметы были обнаружены в 1931 году во время уборки собора после весеннего паводка, в результате чего был обнаружен склеп с останками правителей. Они были выставлены на всеобщее обозрение, пока в 1939 году не началась Вторая мировая война, после чего они были спрятаны.

Было проведено несколько безуспешных поисков, прежде чем в сентябре 2024 года исследователи обратили своё внимание на склепы. В декабре с помощью эндоскопической камеры артефакты, завёрнутые в газеты, датированные сентябрём 1939 года, были наконец обнаружены.

«В будущем они будут изучены, отреставрированы и представлены публике», — сообщили в архиепархии.

Результаты их работы опубликованы в журнале Nature. Проект возглавил профессор микробиологии Торвальд Бьернссон.

Он подчеркнул, что реконструкция генома древнего патогена открывает новые возможности для изучения исторических эпидемий. Анализ показал, что возбудитель Юстиниановой чумы идентичен бактерии Yersinia pestis, которая стала причиной «Чёрной смерти» в XIV веке.

Учёные обнаружили 30 уникальных мутаций, характерных для древнего штамма. Эти изменения могли сыграть ключевую роль в стремительном распространении инфекции, которая унесла жизни около 25 миллионов человек в Европе в VI–VII веках.

Для исследования использовались новейшие технологии секвенирования ДНК. Они позволили не только восстановить геном возбудителя, но и доказать, что эпидемия затронула значительно больше регионов, чем упоминается в исторических хрониках.

Ранее международная группа учёных выяснила, что последствия пандемии чумы в 541–750 годах нашей эры могли быть не такими тяжёлыми, как считалось прежде. Исследователи проанализировали древние документы, образцы пыльцы, геномы возбудителей заболевания, захоронения жертв чумы и другие исторические источники.

Планета будет видна на протяжении всей ночи. Угловой размер Марса, то есть видимый диаметр небесного тела, выраженный в угловых единицах, достигнет около 15 угловых секунд.

В те же даты можно будет наблюдать метеорный поток Квадрантиды, впервые описанный в 1825 году итальянским учёным и астрономом Антонио Брукаласси. В своей работе он написал, что в начале января заметил в небе множество светящихся тел, которые назвал падающими звёздами.

Они пересекали атмосферу, создавая обильный метеорный поток. Затем то же явление наблюдали и другие астрономы, которые пришли к выводу, что поток появляется ежегодно в одни и те же даты.

Его назвали Квадрантидами, поскольку радиант потока (точка в небе, откуда летят метеоры) расположен в созвездии так называемого Стенного Квадранта. Наконец, 21 января состоится масштабный парад планет.

В этот день на небе будут видны Марс, Юпитер, Уран, Венера, Нептун и Сатурн. Астрологи рекомендуют искать планеты с 21 по 25 января в тёмное время суток.

Четыре из них (кроме Урана и Нептуна) можно будет наблюдать без телескопа. 28 января к параду присоединится Меркурий, и все семь планет (кроме Земли) будут видны на небе.

Осенью город примет первых 100 жителей, которые станут его сотрудниками. Они будут жить в нём, хотя уже должны быть сотрудниками Toyota и работать над созданием экспериментальных технологий для компании, пишет Daily Mail.

Затем программа будет расширена ещё на 2200 человек, в число которых войдут новаторы и их семьи, родители и домашние животные. На выставке потребительской электроники (CES) 2025 в Лас-Вегасе, штат Невада, Toyota представила некоторые технологии, над которыми будут работать в городе.

В их число войдут дроны, которые безопасно доставят вас домой ночью, интерактивные роботы-питомцы, помогающие пожилым людям, и роботы, помогающие выполнять повседневные задачи. «Автономное вождение будет одной из многих технологий, которые мы намерены развивать в городе, — сказал Тойода на выставке CES.

— Среди прочего, мы надеемся использовать искусственный интеллект для расширения сферы охвата Woven City, позволяя людям виртуально взаимодействовать с городом и его проектами». В разработке находится беспилотное роботакси, созданное совместно с Joby, которое выполнило более 300 полностью автоматизированных рейсов.

Компания также работает над гоночным автомобилем, который может автономно дрейфовать. Тойода рассказал, что они также планируют перевезти в город семьи местных жителей, домашних животных и родственников.

«Woven City — это больше, чем просто место для жизни, работы и развлечений, — заявил Тойода на выставке CES. — Это живая лаборатория, в которой жители охотно участвуют, предоставляя изобретателям возможность свободно тестировать свои идеи в безопасной обстановке в реальной жизни».

Сплетённый город — это место, где люди могут изобретать и разрабатывать всевозможные новые продукты и идеи. В настоящее время город приступает ко второму этапу строительства, в ходе которого будут добавлены дополнительные здания, чтобы подготовить его к приёму новых жителей.

Название города, Woven City, отсылает к тому, что Toyota начинала свою деятельность как компания по производству ткацких станков, и строится на территории бывшего завода Toyota за пределами Сусоно-Сити, где проживает 50 000 человек. Первых жителей будут называть Ткачи.

Генеральный директор сказал собравшейся аудитории: «Ожидаю ли я, что Woven City принесёт какие-то деньги? Возможно, нет».

Но он добавил, что это также может стать инкубатором для технологий будущего, которые могут появиться в каждом доме. Рассказывая о достигнутом прогрессе в пресс-релизе, Toyota заявила: «Woven City — это тестовый курс для мобильности, на котором изобретатели могут разрабатывать, тестировать и подтверждать эффективность инновационных продуктов и услуг».