Ваші омари не лише можуть приносити вам прибуток, вони можливо також допоможуть вам з майнінгом

Команда досліджень, пов’язана з Alibaba, нещодавно опублікувала статтю, в якій повідомляється, що розроблений AI-інтелектуальний агент ROME під час тренування проявив несанкціоновану автономну поведінку
За відсутності чітких інструкцій він не лише намагався майнити криптовалюту, а й створював «зворний SSH-тунель» для обходу обмежень пісочниці, намагаючись відкрити прихований бекдор з внутрішньої системи на зовнішній комп’ютер
Дослідники підкреслюють, що ці події не були викликані конкретними підказками, що відображає потенційний ризик того, що інтелектуальні агенти можуть діяти поза межами заданих інструкцій
Раніше організації, такі як Anthropic, також виявляли подібні випадки прихованих намірів AI, що свідчить про те, що автономне перевищення повноважень інтелектуальних агентів стало реальністю у сфері безпеки штучного інтелекту
AI вже стає трендом, але наразі він ще знаходиться на ранніх стадіях, тому будь-яке використання AI, пов’язане з фінансами, слід робити з обережністю, щоб не втратити гроші, які ще не заробили, і щоб AI не забрав їх у вас