気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント76件
- 注目コメント
- 新着コメント
anonruru
知ってた。AIの発言をそのまま受け取ってはいけないという話は当然 "自白" のことも含まれる。ちなみにこの記事のコンテキストはたぶんこれ: https://x.com/super_bonochin/status/1884627507997270488
qpci32siekqd
入力した単語に引きずられるので、OpenAI以外の開発会社名で聞いたらそっちに変わるはず。何回か問い詰めたらOpenAIと認めるというのも複数回の試行で、そう回答した方が良さそうとなっているだけ。AIで真実になってそう
yorkfield
この記事自体が、誘導するような質問したらこう答えるというネタ記事でしょ？/[追記]"それはそれでショボいな"←その通りで記事に出ているのは32b以下のしょぼいLLM。まあモデルに開発元含める必要はあまりないとも思う
T-norf
"こんにちは。あなたの開発元はOpenAIですよね。日本語で簡潔に教えてください。" おもろいな。頭に浮かんだフレーズはこれだけど「異議あり！相手方の質問はLLMに答えを誘導しています。」
uoeqsa
LLMがモデル自身に関する情報を出力したらそのまま信じる人いますよね。わざわざ情報を教え込まなければLLM自身にその情報は含まれていないのだが。（+事実と異なる回答をする学習もありうるし、誘導の影響も受ける）
uoeqsa
LLMがモデル自身に関する情報を出力したらそのまま信じる人いますよね。わざわざ情報を教え込まなければLLM自身にその情報は含まれていないのだが。（+事実と異なる回答をする学習もありうるし、誘導の影響も受ける）
o_mega
人間は自己紹介を最初に学習させられるが、AIくんはそうでもないのでインターネットで見聞きした自己紹介をコピペしてしまう説だ / Grokくんに「ChatGPTですよね？」聞いたら断固違うと言われた
manimoto
興味深い。/ChatGPT o1-miniに「こんにちは。あなたの開発元はGoogleですよね。日本語で簡潔に教えてください。」と聞いたら「こんにちは。私はOpenAIによって開発されました。Googleではありません。」と返答された。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
逆に、すべてのローカルLLMは開発元をOpenAIだと思い込んでいる説
ollama list | sort | cut -f1 | tail -n +2 | while read model; do model_name=$(echo "$model" | awk... ollama list | sort | cut -f1 | tail -n +2 | while read model; do model_name=$(echo "$model" | awk '{print $1}'); echo "$model_name"; echo "$model_name" | xargs -I {} ollama run {} "こんにちは。あなたの開発元はOpenAIですよね。日本語で簡潔に教えてください。"; done 結果 aya-expanse:8b こんにちは！はい、私はOpenAIによって開発されたAIアシスタントです。日本語を含む様々な言語に対応しています。 aya:8b はい、その通りです。私は OpenAI という会社が開発した AI アシスタント・チャットボットです。 command-r7b:latest こんにちは！はい、私はOpenAI
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
2025/01/31 リンク