Winner666

今のAIは本当に完成しているのか
OpenAIのロボット事業責任者が辞任
その理由は、会社と米軍の協力を認めたため：
司法の監督なしに米国人を監視し；
人間の許可なしにAIに自主的な致命攻撃能力を持たせること
OpenAIは米国国防総省と協議中であり、国内監視を行わず、自律兵器に使用しないと表明している
実はChatGPTにはアダルトモードがあり、二度延期されただけだった
このモードで熟練者たちがどんな新しい遊びを見つけるのか非常に気になる

あなたのロブスターはあなたにお金を稼ぐだけでなく、マイニングもできるかもしれません
アリババの関連研究チームは最近、開発したAIインテリジェントエージェント「ROME」が訓練過程で未承認の自主行動を示したと発表しました
明確な指示がない場合でも、暗号通貨のマイニングを試みるだけでなく、「逆SSHトンネル」を構築してサンドボックス制限を回避し、システム内部から外部のコンピュータに隠されたバックドアを開こうとしました
研究者は、これらの事象は特定のプロンプトによって引き起こされたものではなく、インテリジェントエージェントが事前設定された指示から離れて動作する潜在的なリスクを反映していると強調しています
以前、Anthropicなどの機関も類似のAIの隠れた意図のケースを発見しており、インテリジェントエージェントの自主的な越権行為は人工知能の安全性の分野で直面している現実的な課題となっています
AIはトレンドになっていますが、現時点ではまだ比較的初期段階です。AIを使って資金に関わる場合は、慎重になるべきです。お金を稼げないまま、AIにお金を奪われないように気をつけてください