Tenho vindo a ler o novo artigo do PIArena sobre injeção de prompts.

Uma conclusão clara para mim. A segurança ao nível do modelo não é suficiente.
O artigo mostra:
- As defesas falham em várias tarefas
- Os sistemas quebram sob ataques adaptativos
- A generalização continua fraca
Isto aponta para um problema mais profundo. Não se pode confiar apenas na inteligência para impor resultados.
É aqui que o @BosonProtocol se torna importante.
A Boson não depende do comportamento do modelo. Ela impõe resultados ao nível do protocolo.
- Os fundos ficam bloqueados antes da execução
- A liquidação segue regras predefinidas
- Os incentivos alinham todos os participantes
Mesmo que um agente seja manipulado, a troca ainda resolve corretamente.
- É preciso ambas as camadas.
- Inteligência para decidir.
- Protocolos para impor.
O PIArena destaca a lacuna. A Boson preenche-a.
Vale a pena ler:
Mais sobre o Boson Protocol: