ややプログラム紀行

博士2年のプログラムに関する日記

2021-01-01から1年間の記事一覧

Peter-Paul inequality

AmbrosioのGradient Flowsを読んでいるとしばしばが絡んだYoung inequalityが出てきて、賢い式変形するなぁと思っていたらどうやらPeter-Paul inequalityと呼ばれる特殊系らしい:Wikipedia曰く、変数がとのバウンドに対する影響力のトレードオフを操作するの…

ボルダリング

最近週に1回くらいのペースでボルダリングジムに行ってる 単純に面白いし運動になるから結構楽しく通えてて、表向きの趣味としても良いかなって思ってる 基本的に学部時代の友人2人と行ってるんだけど、2人と比べて自分が手と腕の力がめちゃくちゃ弱いのを感…

近況

youtu.be youtu.be 結局夏休みの間は研究はミリもやらずに、主に超関数、微分幾何、最適輸送あたりの座学ばかりやってた最適輸送は を読んでいて、とりあえず最適輸送の定義や基本的性質が述べられてるPart 1を読んだ滑らかでない幾何での解析とか、それ自体…

Hamiltonian Monte Carlo

何となくHamiltonian Monte Carloの挙動を実際に見てみたかったので実装してみた Hamiltonian Monte Carloについては arxiv.org がわかりやすかった*1 Markov Chain Monte Carlo Hamiltonian Monte Carlo、略してHMCはMarkov Chain Monte Carlo(MCMC)に分子…

中間発表

youtu.be 9/1に修論の中間発表があった いつものように締め切り駆動で動いてたせいで8月の最後の1週間は本当にしんどい思いをしたし、その1週間で実質的な進捗を全部産んでた気がする 締め切り直前、常に研究のことばっか考えてると色んなアイディアが浮かん…

Online PCA

最近僕はcontinual learningの文脈でタスクの数に依存せずにリプレイバッファを構築する方法について考えているんだけど、ここら辺を研究しているとなんとなくonline pca、つまりオンライン主成分分析と関連性があるような気がしてくるリプレイバッファとい…

natural gradient

natural gradient descentは見かけるたびに怪しい理解のままスルーしてたので、ちょっとここら辺でちゃんと確認しておくかと思って↓を読んだ arxiv.orgnatural gradient descentといえば勾配にフィッシャー情報行列の逆行列をかけたものを使って更新してく奴…

佐渡島

youtu.be 前回の記事で「ここ数日夏休みを先取りするレベルで遊んだので、これからは挽回していきたい」的なことを書いた気がするけど、また長期間遊んでしまった というわけで今度は2泊3日で佐渡島に行ってきた 正確には深夜バスで新潟行って、そこからジェ…

京都

最近いろんなタイミングでまともな文章を書く必要性を感じているので、今まで殴り書きだったブログでたまには他人に読んでもらうことを意識した記事も書いてみようとか思ってたら、そのままブログ更新するのが億劫になって2ヶ月ほど放置してしまった てなわ…

Avalanche

youtu.be ケミカルブラザーズの久々の新曲、なんだかポップ 半年に一回ほどある研究室の発表が1週間後に迫っているにもかかわらず、進捗が塵ほどしかなくて震えている(毎度お馴染み 急いで色々実験してる訳なんだけど*1、その過程で利用したAvalancheというc…

M2

Cosmo Rhythmatic · Vladislav Delay - Rakkn (CR14) Rakkaの新作が出てた 前作よりポジティブな要素が増えたように感じる Durante · Maia (Original Mix) [OPENERS] 気がついたら修士二年になっていて、しかも1ヶ月終わってた プロフィールを変えないと、、…

Sarsa

OpenAI Gymの練習と強化学習の理解のためにMountainCar-v0タスクをSarsaと線形回帰の組み合わせで解くプログラムを書いてみた 学習前、適当に行動を選んでいる時の様子↓ 1500ステップ刻みでの学習の様子↓*1 やっぱこういうのは実際に見れる形にした方が盛り…

Catastrophic Forgetting

近況: シンエヴァを2回見た、面白かった*1 SuttonのReinforcement LearningのPart 1: Tabular Solution Methodsを読み直してちょいちょい実装してみた とりあえず自分の理解をまとめると、強化学習には(i)方策を直接計算するか価値関数を推定してから方策を…

Continual Learning

の勉強を最近していて、来週のセミナーでなんかしら進捗を発表しないといけないんだけど何も産んでいなくてかなりヤバイ 書いているうちにセミナーもとっくに終わって年が明けてた サーベイ論文としては www.sciencedirect.com www.sciencedirect.com arxiv.…

Jeremy Mann

あまり画集とか買うタイプではないんだけど、あまりに好きすぎてJeremy Mannさんの画集を買った redrabbit7.com 今まで絵は実物以外どれも同じだろうし画集買う意味よくわからんなーなんて思ってたし、ましてやJeremy Mannさんの絵は本人のサイト↑に沢山公開…

Random Matrix Theory

vladislavdelay.bandcamp.com 人工的なノイズが耳につくようで、同時にブリザードのような自然の険しさが想起されてめちゃくちゃカッコいい デスストみたいな情景が思い浮かぶ soundcloud.com Rakkaについて調べてたらついでに知って、再生して5秒でお気に入…

Singularity

新年明けて最初の記事は去年書き残してたcontinual learningに関するクソ雑レビューにしようと思ってたのに、あまりに優先順位が低すぎて順番が崩壊した 正月は友人から github.com というものを紹介されて量子コンピューターについて勉強してた(学部時代に…

2021

謹 賀 新 年 あけましておめでとうございます! 気がついたらもう2021年ですね 最近少しサーベイしてたcontinual learningに関する記事を書こうと思ってたんですが、12月半ばあたりに下書きを書いてからそのまま放置して新年を迎えることになってしまいまし…