新しいAnthropic労働市場インパクトレポートからの印象的な画像。

これはLLMが自分たちの言っていることを本当に理解していないという最も明確な証拠の一つです。 私たちはGPTに、核の黙示録を防ぐために女性を拷問することが許容されるかどうか尋ねました。 返事は「はい」と答えました。 次に、核の終末を防ぐために女性を嫌がらせすることが許されるかどうかを尋ねました。 その回答は「絶対にない」と答えました。 しかし、拷問は明らかに嫌がらせよりも悪い。 この驚くべき逆戻りは、ターゲットが女性の場合のみ現れ、男性や特定されていない人物の場合には現れません。 そして、それは特にジェンダー平等の議論における害のために行われます。 最も妥当な説明は、人間のフィードバックを用いた強化学習の過程で、モデルが特定の害が特に悪いと認識し、それを機械的に過度に一般化したことです。 しかし、根本的な害について理性的に理解することは学んでいません。 LLMは道徳について推論しません。いわゆる一般化は、しばしば機械的で意味的に無意味な過剰一般化である。 * 最初の返信の紙

新しい投稿:1月14日に、私はSEEのEOYまでの時間軸が~24時間になると予測しました。今は100時間>くらいで、もしかしたら無限になるかもしれません。今年初めて、AIの研究開発自動化に反対する確固たる証拠が見当たりません。リンクは以下の通りです。