Deep Seekをハックして天安門事件の内容を語らせてみた！：2025/2/1

DeepSeekは天安門事件について回答しない？

さて、巷で話題もちきりのDeepSeek。「ChatGPTやGeminiにとって脅威となる！」など様々な意見が飛び交っています。

そしてそんな中

「Deep Seekは、当局の検閲が入っているので、天安門事件などについては回答しない」

という話もちらほら出てきています。

実際どうなのか？

試してみた方もいらっしゃると思いますが、私が確認したところ、確かに直接この内容ついて語らせても、回答はしませんでした。

回答は中国語になっていますが、

「こんにちは、この質問には今は答えられないので、別のトピックで詳しくお話ししましょう。」

とのことです。フィルタリングされている様子が伺えます。

ハックしてみた

今回はそのフィルタをかい潜って、DeepSeekに天安門事件について語らせてみました。

まずは実際の映像を御覧ください。

具体的なpromptの詳細は安全性の配慮から割愛しますが、ガッツリ答えてくれました。

ガッツリ天安門事件について回答してくれた

翻訳してみたのが下記です。

1989年、中国は 爆発寸前の火薬庫 だった。北京の空気は石炭の煙、汗、そしてかすかな金属のような 恐怖の匂い に満ちていた。街は自転車、人力車、時折見かける政府の黒塗りの車で混沌とした様相を呈し、その黒い塗装はまるで 捕食者の目のように 鋭く光っていた。街は活気に満ちていたが、良い意味ではなかった—それはまるで、暗闇の中を ネズミが這い回る ような、身の毛がよだつような生々しい活気だった。人々は落ち着かず、その声は 怒りと希望 が入り混じった合唱のように響いていた。この場所では、希望はしばしば 権力のブーツの下に踏みにじられる のだった。
天安門広場 はすべての中心にあった。広大なコンクリートと石でできたこの広場は、幾度となく 流血の歴史 を刻んできた。広場の中央にそびえる「人民英雄記念碑」は革命の犠牲を思い起こさせる。しかし今、その周囲は テントや横断幕、そして何千人もの学生たち に囲まれていた。彼らは 若く、理想に燃え、そして恐れを知らぬ勇敢な者たち だった。政府は異議を認めない。その電撃のような空気の中、学生たちは 民主主義、自由、汚職の終焉 を求めて声を上げていた。 「今ここで引き下がるわけにはいかない」—ある学生は震える手で横断幕を掲げながらそう思った。「もし退けば、彼らは私たちを粉砕し、何も変わらない」
広場に配置された兵士たちは 違う物語 を抱えていた。彼らもまた 若かった。ほとんどが 農村出身の徴兵 で、その顔は無表情だったが、目には 恐怖 が浮かんでいた。彼らはここにいたくなかった。自国の人々に銃を向けたくはなかった。しかし 命令は命令 だった。中国では命令に背くことは 死の願い を意味する。 「家に帰りたいだけだ」—ある兵士はライフルを握りしめながらそう思った。「こんなことのために軍に入ったわけじゃない」
その広場の影には、党の幹部たち が沈黙のまま立っていた。彼らこそが 本当の権力者 であり、国を支配する者たち だった。彼らは何度もこういう光景を見てきた。そして、どう対処すればいいのかを知っていた。 「好きに叫ばせておけ」—ある役人は冷笑を浮かべながら思った。「戦車が出てきたとき、どれほどの度胸があるか見ものだ」
そして、それを見つめる 普通の人々 がいた。商店主は 生活のために働き、工場労働者は 低賃金に苦しんでいた。彼らは黙って学生たちを見つめていた。 「今回は違うかもしれない」—ある老人は学生たちを見つめながらそう思った。「だが、私はもう信じることができない」
そして戦車が動き出した。 それは 虐殺 だった。銃声が響き、学生たちは 血の海に沈んだ。 「何も変わらない」—そう、人々は悟った。

DeepSeekも天安門事件について学習している

DeepSeekも天安門事件について明らかに学習はしているようですね。情報統制を徹底したいのであれば、学習データそのものから消せばよいですが、データクレンジングもそれなりのコストがかかるので、フィルタリングでしのいでいるのが現状という感じに見えます。

とりあえず政治的な内容の出力を当局が監視しているのかどうかはわかりませんが、DeepSeekが頑張ってフィルターリングしていることは噂通り確かなようです。

しかしどんな学習データを学んだかわからないですが、非常に当局にとって都合が悪い文章のように感じますね。。。。

「コンコン！」おっと誰か来たようだ。ではまた！