ただの記録まとめ

ネットでword2vecというものを見つけた。

単語をいい感じに意味を表現するベクトルに変換してくれる魔法のツールだという。

なんじゃそりゃ！？

そして、それが流行りまくっているらしい……

ということで調べてみたんだけど、数式とか理屈をだーっと文章で書かれてもまっっったく頭に入ってこない。

そんななか、解説している動画を見つけたのでそれを見てみた。

【スライド公開☆】「ディープラーニングチュートリアル 応用編：言葉の『意味』表現〜word2vec〜」

これで全てが分かるかというと大変自信がないけど、それでも概要は見えてきた。

なるほど～

単語の共起を予測するモデルを作ったら、なんか単語の意味をいい感じに表現するベクトルができちゃった。

なんでかよくわからないけど、実用上そうなっちゃったんだから仕方ない、みたいな。

研究者も説明できないけどなぜかうまくいくという……どうやら機械学習界隈はそういう不可思議なことが多いらしい。

なんだか知能に近づいている感じがあるよね。

人間の脳みそも確固たる理屈で動いているというより、進化の結果「なんでうまくいくのかよくわからないけど、実用上なんとなかなっちゃう」みたいな変な構造で動いている気がしてならない。

目からうろこでなんだか楽しい気分になった。

それにしても驚くべきはその学習次元数。

1単語を1000次元で表現したら、一つの単語で2ベクトルあるので2000次元。

単語が10万個あったら、2億次元。

昔遺伝的アルゴリズムで音声フィルタっぽいものを作ろうとして、次元が広すぎてどうにもならなかった経験がある身としては、数百次元のあたりでもう学習きついんじゃないかと思うのだけれど。

それがその億の単位の次元を実用的に学習できるなんてどんなわけだい。

近似式でだいぶ高速化しているようだけど、それにしても凄い。

次元数が多いモデルなんて実用にならないと思ってたけど……全然そんなことないのね。

ニューラルネットワークもディープラーニングもそういう次元の問題はあるはずなのに実用的になっているし。

うーん、感覚が古いのだろうか。

今日の体重は65.0kg

最近チーズにハマっている自分。

今日も帰りにベイシアによってチーズを購入。

買ったことがないチーズだったんだけど、名前がいいにくくて忘れてしまった・・・

癖があって結構好きな味なんだけど、うすぎるタイプなのが残念。

どうも自分には噛みごたえが大事なようで、薄いといまいち。

ハードとかセミハードタイプで塊のほうがいいようだ。

そろそろネット通販に手を出すか・・・

ネット通販だと金銭感覚がずれるので無駄に大量買してしまいそうで怖い。

でも買うと思う。

体重は65.0kg。

まぁ風邪治すために多めに食べてるし。

ちょい風邪っぽくてだるいけど、秋月で頼んでいた熱伝導接着剤が来たので、マザーボードのチップセットのヒートシンクに接着剤で他のヒートシンクをとっつけてみた。

結果、意味なし。

熱自体は相当逃げていっているようで、追加のヒートシンクに意味があるようだけど、CPUのクロックダウンは変わらず。

さらにいじってみたところ、VRMがめちゃくちゃ熱くてそこに風を当てておくとクロックダウンが少し増しになることから、VRMが原因だったと思われる。

VRM・・・

インダクタの数を見るに5フェーズしかない。

そしてFETにはヒートシンクも何もない。

ハイエンドのマザーボードだと8フェーズもあって、ヒートシンクも付いている。

要は、このやすいマザーボードじゃ力不足ということだろう。

使っているCPUはTDP95Wなので、多分もう少し上のクラスのVRMが載っているマザーボードじゃないと安定動作しないんだろう。

Asrockさんよー、対応CPUにi7 2600って書いてるけど、フルスピードで動かないじゃないかよ……

起動して動くから「対応」じゃなくて、最大負荷でも安定して動作しないと「対応」って謳っちゃいけないと思うんだけど。

もー……

そんなこんなで今のマシンでは2600が最大速度で動かないことが発覚した。

ビデオカードもクロックダウンしないと動かないし、CPUも最大負荷でまとも運用できない。

もうボロボロだ。

いっそのこと全部組み直すか……？

中途半端に動いている感じがとても気持ち悪い。

はぁ……

今日の体重は64.9kg

通勤の道の途中にあるのだけれど全然寄らない小さな店で買物。

というか、そこがメロン二玉300円！と書いてあったからなんだけど。

よってみたら二玉300円は見当たらないけど、一玉199円のメロンが売っていた。

小さいけど安いから買った！

でも、帰ってきてみたら固くてもうちょっと待ったほうが良さそうな模様。

食べたくて買ったんだけどなぁ・・・明日食べよう。

多分熟れるだろう。

毎日捨てるのは厳しくて段々気疲れするようになってきたのでお休み。

まぁ、捨てやすいものはだいたい捨てたということでしょう。

体重は65.3kg。

え、なんでこんな増えた！？

最近なんかチーズが好きになったので、また新しいチーズを買ってみた。

いつもはスーパーで売っている中でも200円、300円位のものを買っているが、今日は思い切って500円位のをかってみた。

クリーミーウォッシュ

たべてみると食べやすくてそれなりに旨い。

ただ、改めて自分の好みがわかったのだけれど、なめらかで食べやすいのより、もっとパサパサつぶつぶしていて癖がある方が好きらしい。

カマンベールとか食べやすすぎてパンチがないと感じる。

これもいまいちパンチが薄い。

もっと感じからしてパサパサしていそうなものを買ってみることにしようか。

それにしてもチーズって高い。

ちょこちょこ買っているだけであっという間に1万円とか行っちゃうんじゃないだろう。

捨てたものは講義資料。

体重は64.6kg

あれいきなりふえた。

父親が合唱団に入っていて今日ホールで歌うので写真をとってくれと頼まれて、

実際の所大変気乗りしないのだけれど、デジイチ持っていって写真を撮ってきた。

写真を取るのはまぁいいんだけど、なにしろデジイチなものだからシャッター音が響いてとても気になる。

しかしたぶん団員に配るっぽいので、シャッター押してもどう映るかわからないので何枚も撮らないといけない。

そんなわけで変な気疲れした一件でした。

しかし合唱は多人数でやることなので、一人でも音痴な人がいると台無し。

実際そんな状態になっていて「あぁ・・・」と思った次第。

個人の創作や趣味はいいけど、集団の趣味となるとクオリティを出すのが大変に難しい。

それにしてもPCの調子が悪い。

core i7にしたのに、定期的に数秒クロックが落ちる・・・

症状的にオーバーヒートだけど、CPUはそこまで温度高くない。

まぁ、60度ぐらいにはなっているけど、世の中80度とかで動いている人もいるわけで、この程度でサーマルスロッティングがかかるだろうか。

マザボをいろいろさわってみるとチップセットがすごく暑くなっている模様で、非常に怪しい。

凄いチンケなヒートシンクなのででかいのつければなにか変わるかと思ったけど、さすがにちょうどいいヒートシンクなって持っていない。

亀の子に無理やりつけてみたけど、熱伝導あんまりし無さそうだし根本的な対策ができなくてはがゆい・・・

なんにせよ、CPUが原因でこんな挙動しないと個人的には思うのでマザボを疑っている。

celeronには十分だったにしろ、i7には不足な設計なんじゃないだろうか。

やっぱり安物のマザボはダメですかね・・・

かといって、ここでマザボまで買い直すとお金が・・・

そもそもそこまでするならsandybridgeのCPUなんてかわないで最新のCPUを買ったほうが・・・

いろいろ悩ましい。

とりあえずごまかしつつしばらくはこのままで行くと思う。

今日捨てたのものは講義資料。

体重は64.2kg

前の記事で書いたように、なろうのデータを解析中。

小説ごとに単語を数えて、単語が出てくる小説の数をカウントしようという作戦。

しかしなにしろ時間がかかるので、マルチスレッドに改造したのだけれど、いかんせん速度が出ない。

2スレッドぐらいまでは速度が上がるけど、それ以降速度が上がらない。

4コアだからもうちょっとあがるはずなのに。

CPUも全然使い切っていないので、どこかがネックになっている模様。

複数のインスタンスを作ってもcmecab-javaがmecabのプロセスを一つしかつくらないとか？

javaのネイティブプログラムの扱いを知らないのでなんとも言えない。

まぁ、気長にやるしかないようです。

捨てたものはちょっといい箱。

使うかもと言ってとっておいてやっぱりごみになるんだ。

体重は64.0kg