ややプログラム紀行

博士2年のプログラムに関する日記

近況

今までAphex TwinのDrukqsをまともに聴いたことなかった*1んだけど、改めてちゃんと聴いてみたらいい曲ばかりでびっくりした

面と向かって聴くことを要する曲が多そうだと感じた、あと全体的にsquarepusherの影響が色濃い気がする(適当

 自分的にはVordhosbn、Mt Saint Michel + Saint Michaels Mount、Taking Control、Afx237 v.7、Ziggomatic 17あたりが好き

 

Ziggomatic 17かっこいいなーーーって思ってネットサーフィンしてたら、RedditでBogdan Raczynskiもいいよって言ってる人がいて、聴いてみたら確かに同じ系統でよかった

 

あとは最近Rival Consolesっていうアーティストを知った

あとアクエリのCMでFunny BunnyをUruさんがカバーしてるのが流れてていいなと思った

 

 

研究方面は(そもそもあまりやってないんだけど)夏休みだし最近のトレンドがどういうものなのか追ったり、使いこなせるようになるためにpytorchで写経したりしてた

Transformerの実装を初めてまともに理解したけれど、構造がなんとなく大脳皮質のコラムを彷彿とさせて胸が熱くなった(関係なさそう

Self-AttentionがCNNの畳み込みの一般化のように見えるけど、一般化する=>性能が上がるというほど単純な話ではないはずだし、なぜそれでうまくいってるのかっていうのはまだわかってない

そもそも今までoverparameterization周りの論文を読んでいてattentionのアの字も見たことないから理論解析がどれほどあるのかも謎だから今度調べてみよう

 

あとは結構前に友人に勧められた研究法っていう動画をようやく見た

youtu.be

動画を見てから現状を振り返ると、多分今の自分には研究の目的が欠けていて、それは周辺知識の不足に起因するのかなと感じた

今まではoverparameterizationとかdouble descentについて調べて回ってたけど、もう少し視野を広げた方が良さそう

*1:なんかめっちゃ曲数あるから