一個前の記事ね。
そして昨日は書き忘れたけど、普段歩かない道を歩いてみたぜ!
というそれぐらいで。
遅いのでもうこれで寝る
体重は64.5kg.
昨日より落ちたけど、どうも最近食べ過ぎっぽいので明日から控えよう・・・
一個前の記事ね。
そして昨日は書き忘れたけど、普段歩かない道を歩いてみたぜ!
というそれぐらいで。
遅いのでもうこれで寝る
体重は64.5kg.
昨日より落ちたけど、どうも最近食べ過ぎっぽいので明日から控えよう・・・
人工知能について考えていて、「人間はかっちり脳とふわふわ脳でできていて、その間の通信はこんな感じ」というアイディアが浮かんだのでちょっと書いてみる。
■かっちり脳
論理的な部分。意識領域。
物事をデジタルで扱う。
物を数えたり、計算したり、「AならばB」みたいに物事を記号的に捉えたりする。
言語野と接続されているので、ここで考えたことは厳密に言葉や図表で表現できる。
逆に言うと言語で説明できないようなあやふやなことはここでは扱えない。
そして計算が遅い。
一秒間に数百万回の計算なんかできない。
せいぜい一秒に数回程度。(論理的な思考全般)
■ふわふわ脳
非論理的な部分。無意識領域。
物事を確率的というかアナログのベクトル集合みたいに扱う。
意識領域(言語野につながっている自意識。しゃべっている我々自身)には直接接続されていないので、言語や記号に落とそうとするとだいたい上手く行かない。
※「君の今感じていること全てを文章で全て正確に説明しなさい」
無理。
記号や言語に落としやすい部分を言語に変換するのが精一杯。それにも漏れが多分にある。
巨大なアナログのベクトル集合みたいなものを、言語というデジタル的な要素数個で正確に表現することは不可能。
そして演算能力が半端ない。
全身の皮膚感覚・視覚・聴覚・味覚すべてを処理している。
数百Mとか数ギガとか、もしかしたら数テラのデータを毎秒処理しているかもしれない。
■かっちり脳とふわふわ脳のコミュニケーション
人間はこういう2つの性質が違う脳機能で成り立っていると非常に良い。
視覚や聴覚から食べ物や危険を見つけるにはふわふわ脳が大活躍する。
逆にかっちり脳は遅いからそんなので視覚の処理していたらおそらく一枚の映像から食べ物を探すのが一日仕事になってしまう。(多分本当にそれくらい遅いと思う)
そして、罠を仕掛けたり道具を作るには手順を考えることが出来るかっちり脳が活躍する。
かっちり脳だけだと処理が遅くて歩きまわることすら出来ないし、ふわふわ脳だけだと食べ物を求めてひたすらさまよい歩くことしか出来ない。(爬虫類レベルかそれ以下)
ただ、問題はこの2つの脳みそがどうやって通信しているか。
片方は一秒に数個のデータしか処理できない超鈍足。しかもデジタル。
片方は一秒に数億以上のデータを処理している超俊足。しかもアナログ。
どうやったって、まともに通信できない。
そこでここは速いほうが遅い方に合わせている。
しかも信号処理も遅い方に合わせている。
ふわふわ脳は大量のアナログデータだけどそのまんまじゃー、かっちり脳には渡せない。
そもそもかっちり脳は鈍足だし、メモリ(ワーキングメモリ)が数個しかないので渡されたベクトルを保持することすら出来ない。
そこで中間に通信用の仕組みがある。
それがシンボル。
「熱い」「痛い」「おいしい」といった身体感覚や言語で使う単語類。
そういったかっちり脳が認識できるレベルの「シンボル・記号」がかっちり脳とふわふわ脳の間にずら~っと並んでいる。
そのシンボルにはそれぞれ明るさの調節ができるランプがついていて、かっちり脳とふわふわ脳はそのランプの明るさを変えることで通信する。
なんというか、いろいろ不正確な上まどろっこしいが、かっちり脳が鈍足で扱えるデータが少ないからしかたがない。
例えば平坦で何の障害もない道を真っ直ぐ歩いていて、それに浮いている雲を見たとしよう。
すると雲がバナナみたいな形に見える。
そこでふわふわ脳はシンボルたちのランプを光らせる。
・雲:最大輝度
・ばなな:最大輝度
・りんご:ちょっと光る
・笑顔の口:そこそこ光る
するとかっちり脳が「あ~バナナみたいな雲だ~。ちょっと笑っている口っぽいかも」とか思って、ひとりごとでつぶやくということが可能になる。
かっちり脳に伝わらないと言語にならない。
ちなみにこの時歩くという行動は全てふわふわ脳が処理しているので、かっちり脳はなにも処理していない。
細かなバランス調整もふわふわ脳がやっているし、自動操縦状態。
「あ、この道行かなきゃ」とか思うときだけかっちり脳がふわふわ脳に司令を出しているだけ。
逆にかっちり脳から働きかけるとき。
「怒りのあまりバナナを友達のアナルに突き刺しました」という酷い文章を見る
→ふわふわ脳がパターン認識して「怒り」や「ばなな」シンボルを光らせてかっちり脳に通知。と同時に各単語に関連するふわふわ脳の中のイメージも活性化。(この時点で「バナナ」「怒り」「突き刺す」のイメージがふわふわしている)
→かっちり脳が順序関係や因果関係を整理。「(誰か)が怒っている」→「行動(バナナを突き刺す)」。
※この因果関係もふわふわ脳に経験や常識を問い合わせしていると思う。
→さらにかっちり脳が「バナナを友達のアナルに突き刺す」のイメージを構築する。イメージ自体はふわふわ脳の中にあるけど、それぞれが分離した状態。「人がなにかを突き刺す動作」のシンボルを呼んできて、さらにその手に持っているものをバナナに置き換える。そしてその突き刺している人の前に突き刺される人を配置する。
→こうしてふわふわ脳の中に「怒りのあまりバナナを友達のアナルに突き刺しました」というシュールな絵が完成する。
ちなみに文章を高速で読むと、かっちり脳の処理が間に合わない状態になるので、ふわふわ脳が描くイメージの断片は分かってもかっちり脳が処理するはずの因果関係がよくわからなかったりする。
そういうことあるでしょ?
ちなみに、さっきランプが付いたシンボルで通信するだけといったけど、かっちり脳からふわふわ脳の一部イメージを置き換えみたいなこともできるんで、実際はシンボルに操作加える事も出来る。
ちょっとそのへんは・・・もう少しいい説明を考えよう。
シンボルといったけど、要は互いにポインタ渡ししてるんだよな。
そんで、かっちり脳からポインタを置き換えることが可能。
■その他
考えてみると、ふわふわ脳のお仕事量半端ない。
逆にかっちり脳の仕事量超少ない。
人間の意識なんて大したことなくて、偉いのは無意識領域なんだと思う。
どうも、かっちり脳なんて機能的には大したことはなさそうだ。
実際に脳で必要としている体積は別として、機能的にはかっちり脳はふわふわ脳のオプション的なものに過ぎない気がする。
そして、同じ経験を繰り返すとふわふわ脳が「毎回これか。もうかっちり脳に処理させなくていいや。前のパターンを再利用しよう」とかっりち脳を経由しなくなるので、なおさらかっちり脳の活躍の場がない。
最初は車の運転なんて考え事一切できないけど、慣れると運転しながらいろいろ考えられるよね。
それは、かっちり脳のワーキングメモリを使っているか使っていないかの差である。多分。
ここにおくと。
ネットでword2vecというものを見つけた。
単語をいい感じに意味を表現するベクトルに変換してくれる魔法のツールだという。
なんじゃそりゃ!?
そして、それが流行りまくっているらしい……
ということで調べてみたんだけど、数式とか理屈をだーっと文章で書かれてもまっっったく頭に入ってこない。
そんななか、解説している動画を見つけたのでそれを見てみた。
【スライド公開☆】「ディープラーニングチュートリアル 応用編:言葉の『意味』表現〜word2vec〜」
これで全てが分かるかというと大変自信がないけど、それでも概要は見えてきた。
なるほど~
単語の共起を予測するモデルを作ったら、なんか単語の意味をいい感じに表現するベクトルができちゃった。
なんでかよくわからないけど、実用上そうなっちゃったんだから仕方ない、みたいな。
研究者も説明できないけどなぜかうまくいくという……どうやら機械学習界隈はそういう不可思議なことが多いらしい。
なんだか知能に近づいている感じがあるよね。
人間の脳みそも確固たる理屈で動いているというより、進化の結果「なんでうまくいくのかよくわからないけど、実用上なんとなかなっちゃう」みたいな変な構造で動いている気がしてならない。
目からうろこでなんだか楽しい気分になった。
それにしても驚くべきはその学習次元数。
1単語を1000次元で表現したら、一つの単語で2ベクトルあるので2000次元。
単語が10万個あったら、2億次元。
昔遺伝的アルゴリズムで音声フィルタっぽいものを作ろうとして、次元が広すぎてどうにもならなかった経験がある身としては、数百次元のあたりでもう学習きついんじゃないかと思うのだけれど。
それがその億の単位の次元を実用的に学習できるなんてどんなわけだい。
近似式でだいぶ高速化しているようだけど、それにしても凄い。
次元数が多いモデルなんて実用にならないと思ってたけど……全然そんなことないのね。
ニューラルネットワークもディープラーニングもそういう次元の問題はあるはずなのに実用的になっているし。
うーん、感覚が古いのだろうか。
今日の体重は65.0kg
最近チーズにハマっている自分。
今日も帰りにベイシアによってチーズを購入。
買ったことがないチーズだったんだけど、名前がいいにくくて忘れてしまった・・・
癖があって結構好きな味なんだけど、うすぎるタイプなのが残念。
どうも自分には噛みごたえが大事なようで、薄いといまいち。
ハードとかセミハードタイプで塊のほうがいいようだ。
そろそろネット通販に手を出すか・・・
ネット通販だと金銭感覚がずれるので無駄に大量買してしまいそうで怖い。
でも買うと思う。
体重は65.0kg。
まぁ風邪治すために多めに食べてるし。
ちょい風邪っぽくてだるいけど、秋月で頼んでいた熱伝導接着剤が来たので、マザーボードのチップセットのヒートシンクに接着剤で他のヒートシンクをとっつけてみた。
結果、意味なし。
熱自体は相当逃げていっているようで、追加のヒートシンクに意味があるようだけど、CPUのクロックダウンは変わらず。
さらにいじってみたところ、VRMがめちゃくちゃ熱くてそこに風を当てておくとクロックダウンが少し増しになることから、VRMが原因だったと思われる。
VRM・・・
インダクタの数を見るに5フェーズしかない。
そしてFETにはヒートシンクも何もない。
ハイエンドのマザーボードだと8フェーズもあって、ヒートシンクも付いている。
要は、このやすいマザーボードじゃ力不足ということだろう。
使っているCPUはTDP95Wなので、多分もう少し上のクラスのVRMが載っているマザーボードじゃないと安定動作しないんだろう。
Asrockさんよー、対応CPUにi7 2600って書いてるけど、フルスピードで動かないじゃないかよ……
起動して動くから「対応」じゃなくて、最大負荷でも安定して動作しないと「対応」って謳っちゃいけないと思うんだけど。
もー……
そんなこんなで今のマシンでは2600が最大速度で動かないことが発覚した。
ビデオカードもクロックダウンしないと動かないし、CPUも最大負荷でまとも運用できない。
もうボロボロだ。
いっそのこと全部組み直すか……?
中途半端に動いている感じがとても気持ち悪い。
はぁ……
今日の体重は64.9kg
通勤の道の途中にあるのだけれど全然寄らない小さな店で買物。
というか、そこがメロン二玉300円!と書いてあったからなんだけど。
よってみたら二玉300円は見当たらないけど、一玉199円のメロンが売っていた。
小さいけど安いから買った!
でも、帰ってきてみたら固くてもうちょっと待ったほうが良さそうな模様。
食べたくて買ったんだけどなぁ・・・明日食べよう。
多分熟れるだろう。
毎日捨てるのは厳しくて段々気疲れするようになってきたのでお休み。
まぁ、捨てやすいものはだいたい捨てたということでしょう。
体重は65.3kg。
え、なんでこんな増えた!?
最近なんかチーズが好きになったので、また新しいチーズを買ってみた。
いつもはスーパーで売っている中でも200円、300円位のものを買っているが、今日は思い切って500円位のをかってみた。
クリーミーウォッシュ
たべてみると食べやすくてそれなりに旨い。
ただ、改めて自分の好みがわかったのだけれど、なめらかで食べやすいのより、もっとパサパサつぶつぶしていて癖がある方が好きらしい。
カマンベールとか食べやすすぎてパンチがないと感じる。
これもいまいちパンチが薄い。
もっと感じからしてパサパサしていそうなものを買ってみることにしようか。
それにしてもチーズって高い。
ちょこちょこ買っているだけであっという間に1万円とか行っちゃうんじゃないだろう。
捨てたものは講義資料。
体重は64.6kg
あれいきなりふえた。
父親が合唱団に入っていて今日ホールで歌うので写真をとってくれと頼まれて、
実際の所大変気乗りしないのだけれど、デジイチ持っていって写真を撮ってきた。
写真を取るのはまぁいいんだけど、なにしろデジイチなものだからシャッター音が響いてとても気になる。
しかしたぶん団員に配るっぽいので、シャッター押してもどう映るかわからないので何枚も撮らないといけない。
そんなわけで変な気疲れした一件でした。
しかし合唱は多人数でやることなので、一人でも音痴な人がいると台無し。
実際そんな状態になっていて「あぁ・・・」と思った次第。
個人の創作や趣味はいいけど、集団の趣味となるとクオリティを出すのが大変に難しい。
それにしてもPCの調子が悪い。
core i7にしたのに、定期的に数秒クロックが落ちる・・・
症状的にオーバーヒートだけど、CPUはそこまで温度高くない。
まぁ、60度ぐらいにはなっているけど、世の中80度とかで動いている人もいるわけで、この程度でサーマルスロッティングがかかるだろうか。
マザボをいろいろさわってみるとチップセットがすごく暑くなっている模様で、非常に怪しい。
凄いチンケなヒートシンクなのででかいのつければなにか変わるかと思ったけど、さすがにちょうどいいヒートシンクなって持っていない。
亀の子に無理やりつけてみたけど、熱伝導あんまりし無さそうだし根本的な対策ができなくてはがゆい・・・
なんにせよ、CPUが原因でこんな挙動しないと個人的には思うのでマザボを疑っている。
celeronには十分だったにしろ、i7には不足な設計なんじゃないだろうか。
やっぱり安物のマザボはダメですかね・・・
かといって、ここでマザボまで買い直すとお金が・・・
そもそもそこまでするならsandybridgeのCPUなんてかわないで最新のCPUを買ったほうが・・・
いろいろ悩ましい。
とりあえずごまかしつつしばらくはこのままで行くと思う。
今日捨てたのものは講義資料。
体重は64.2kg
前の記事で書いたように、なろうのデータを解析中。
小説ごとに単語を数えて、単語が出てくる小説の数をカウントしようという作戦。
しかしなにしろ時間がかかるので、マルチスレッドに改造したのだけれど、いかんせん速度が出ない。
2スレッドぐらいまでは速度が上がるけど、それ以降速度が上がらない。
4コアだからもうちょっとあがるはずなのに。
CPUも全然使い切っていないので、どこかがネックになっている模様。
複数のインスタンスを作ってもcmecab-javaがmecabのプロセスを一つしかつくらないとか?
javaのネイティブプログラムの扱いを知らないのでなんとも言えない。
まぁ、気長にやるしかないようです。
捨てたものはちょっといい箱。
使うかもと言ってとっておいてやっぱりごみになるんだ。
体重は64.0kg
最近のコメント