Multi-Head AttentionとScaled Dot-Product Attentionの全て:Transformerの核心を徹底解説

この記事では、Transformerの中心的な役割を果たすMulti-Head Attentionについて解説する。   Transformerのほかの機構の詳細な解説はせず、完全にMulti-Head Attention特化の解説となるので、ほかの機構や全体観を掴みたい方はこちらの記事をご一読いただきたい。 この記事はまずはScaled Dot-Product AttentionというMulti-Head Attentionの中で使われている核心部分についてこれでもかと詳しく解説したのちに、本 ...

Transformerとは?世界を変えた深層学習モデルの仕組みをわかりやすく徹底解説

近年のAI技術の急激な発展には「Transformer」という深層学習モデルの存在が大きく関わっている。 この記事では、そのTrasformerについてその仕組みとそれがなぜ組み込まれているかを画像をふんだんに使用して徹底的に解説している。 必要な知識はなんと高校数学と行列の足し算、掛け算のみ! 今後のAI社会において理解しておいて絶対に損はないので、ぜひ読んでほしい。   Transformerってなに?? Transformerは、もともと機械翻訳の深層学習モデルとして2017年にGoogl ...

ソフトマックス(Softmax)関数とは:定義、特性、実装方法まで徹底解説

本記事は、Softmax関数に関する理解を深めたい方々を対象にしています。 必要な前提知識は以下の通りです。 基本的な数学知識(特に確率論と指数関数) ニューラルネットワークの基本概念 Pythonプログラミングの基礎 機械学習における一般的な用語の理解 この記事では、Softmax関数の定義からその性質、応用例、そして実際のコーディング方法に至るまでを段階的に解説しています。機械学習の分野における多クラス分類問題への理解を深めるための基礎的なガイドとして、本記事を活用いただければと思います。 &nbsp ...

コサイン類似度とは?ベクトルの内積から見る類似度

データ分析や機械学習の分野で広く用いられるコサイン類似度は、ベクトル間の類似性を測定する強力なツールである。   この記事では、コサイン類似度の基本原理から、高次元データでの振る舞い、そして次元の呪いに対処する方法までを詳細に解説する。 データサイエンティストや機械学習エンジニアにとって重要なこの問題を、わかりやすく、段階的に理解し、実践的な解決策を身につけるための一助となることを目指す。 【定義】コサイン類似度とは何か コサイン類似度は、特に二つのベクトル間の角度を利用して、それらがどれだけ似 ...

初心者でも理解できる!行列とベクトルの積の基礎と実践的応用

数学の世界において、行列とベクトルの積は基本的かつ強力な概念である。 この記事では、行列とベクトルの積がどのように計算され、どのような幾何学的意味を持つのかを段階的に解説する。 さらに、コンピュータグラフィックスから経済学に至るまで、実世界での多様な応用例を紹介し、この重要な数学的ツールの理解を深める。数学の基礎から応用までを網羅するこの記事は、高校生から数学に興味を持つ全ての読者にとって、行列とベクトルの積の理解を深めるための貴重なリソースとなるだろう。   はじめに:行列とベクトルの積とは ...

ベイジアンニューラルネットワーク

    ニューラルネットワークにベイズ推定の考え方を導入し応用したものに、ベイジアンニューラルネットワークがある。 通常のニューラルネットワークとの違いやその理論についてイメージをつかむべく整理していく。   ベイジアンニューラルネットワーク(BNN)とは ベイジアンニューラルネットワーク(Bayesian Neural Network)は、近年注目を集めている一つの研究テーマである。この技術は、従来のニューラルネットワークにベイジアン理論を組み合わせることで、予測の不確実性 ...

食洗器買っちった

とにかく皿を洗うのがめんどい筆者 めんどくさすぎるが故に自炊が若干億劫になってしまっています   実際時間がかかるのは事実で、それが嫌だから外食とかウーバーとかしてたらマジでもったいない   というわけで、、、       食器洗い乾燥機 食洗機 工事不要 食洗器 dishwasher 工事不要 UV消毒 6種の洗浄コース タンク式食器洗浄 食洗器 4人用 高温洗浄 節水 節電 果物洗浄 野菜洗浄 一人暮らし 小型 2年品質保証 Amazon 今回買った食 ...

【JBL LIVE FREE 2】神コスパなフルワイヤレスイヤホンをレビュー

今回レビューするのはJBLの新作完全ワイヤレスイヤホンLIVE  FREE2というイヤホンです これまでバカみたいに高いイヤホンばっかりレビューしてきたので、 どうせ高いんじゃないのって思うかもですが、今回は違います。 Amazonだと15000円を切るコスパ重視イヤホンです。   ここ最近使い倒した感想を一言でまとめると もうこれでいいじゃん 的なイヤホンだと思います   JBL フルワイヤレスイヤホン LIVE FREE 2 SILVER posted with カエレバ 楽天市場 ...

2021年買ってよかったもの選手権

記事を書くにあたって、2021年度の注文履歴を改めて見返しました。 そうしてみたらわかったのですが 今年買ったものの9割が書籍かKindleでした。 本ばっか買っていた一年だったんですね。   もちろん本以外のもので当たりも引いているので、それを紹介していきます。 ジャンルはめちゃめちゃです^^ ガイスター 始まりは、僕の部屋に遊びに来た友人に と言われたことでした。   要するに遊びに来ても楽しめるものが何もないということでした 悔しすぎます。ということで 🔍「ボードゲーム屋 近く」 ...

【Noble】KHANというイヤホンが最高という話【高級イヤホン使用レビュー】

僕がKHANというイヤホンに手を出したのは 今でも愛機として使っているLegend Xというイヤホンを既に手にした後のことでした。 Legend Xでオーディオ沼が終わると思っていました。そしてそれは半分正解であり、半分間違いでした。   この記事はKHANを検討している方向けにKHANの使用感などを書いていこうと思います。   使用プレイヤーは基本的にSP2000です   まずKHANとは Noble Audioのイヤホンは個人的にkatanaの印象が強いです。 文字通りキ ...

【2020年最新版】Amazonで本当に買ってよかったものおすすめ21選

こんにちは!ノムユです! 2020年もたくさんAmazonにて買い物をしました。 プライム会員なら配送料無料で購入できるので、もうAmazonは僕の生活に欠かせない存在です   ということで2020年に買ってよかったものをジャンルなんでもありでピックアップしてみましたのでご覧ください   本記事ではガジェット大好きな著者が「Amazonで買って良かったもの」を一挙大公開します。   【AfterShokz】Aeropex 骨伝導ワイヤレスヘッドホン 骨伝導 ワイヤレス イヤホ ...

【ARTISAN 零 MID】ゲーミングマウスパットレビュー。使用しているプロゲーマーなど

こんにちは!ノムユです! 今回は僕がめぐりにめぐってたどり着いて三年近く愛用しているマウスパット ARTISAN 零 MID のレビューをしたいと思います   本記事ではゲーミングマウスパット選びに迷っている。ARTISAN 零の評価は? こんなお悩みを解決します   ARTISAN 零 MID ってどんなマウスパット? 今回紹介するARTISAN「アーティサン」は、プロゲーマーなどを使ったプロモーション含め宣伝なしで 2017年にマウスパット部門で満足度一位を獲得し現在でも非常に高い ...

本気で結果を出したい人のための「暗記法」完全マニュアル

※この記事はnoteに公開している「本気で結果を出したい人のための暗記法完全マニュアル」とほぼ同じものです。すでに購入されたことがある方はご注意ください。 まず最初に暗記、すなわちインプットを正確に行うことの爆発力についてご紹介したいと思います。 暗記というと「暗」という字があるだけあって「めんどくさい」などの暗いネガティブなイメージを持ちがちですが 暗記によって得られる効果は絶大です。 それは圧倒的な時間の短縮です。 皆さん経験があると思いますが、「知っている」のと「知らない」のとでは成果とその時間に差 ...

【思い出す】ことが最強の暗記法。知識を頭に叩き込んで忘れないためのコツ【反芻暗記法】

今回は、勉強の基本中の基本であり本質である 「思い出す」ということについて徹底的に掘り下げてみようと思う。   長い長い勉強生活において僕が得た知見をなるべく整理してみるので、勉強で成果を出したいと思っている人は是非一読してもらいたい。   「思い出す」ことが勉強の本質 僕は個人的に「思い出す」という作業が反復・復習の本質だと本気で思っている。 思い出すという作業は、脳に負荷がかかり、脳が苦労して、過去の記憶から思い出したい内容をサルベージしてくることで記憶が強固になっていくのだ &n ...

三浪参考書マニアによる、受験生におすすめの物理参考書・問題集5選

参考書・問題集選びって迷いますよね。 実際僕も悩みに悩んであっちこっちの参考書に手を出しまくっていた時期がありました。 やっていない本があると不安になるんですよね。 ですが、今ならわかります。 物理は特に一冊の参考書をしっかりやった方が成績が上がります。   この記事では皆さんの参考書選びの一助になれるように この経験を踏まえたおすすめの物理の参考書を五つに絞って紹介したいと思います。     ※この記事の内容は全て個人的な所感によるものということをご理解ください 物理の勉強 ...

数学における論理の起点のパターンとその考え方【難関大入試に効果絶大】

先日、こちらの記事のコメントにて 「論理の起点のパターンを見せてほしい」 というご希望があったので、すこし「論理の起点」について深堀りしたいと思います。 たしかに、ただ「論理の起点」「いつ使うか」だけでは、まだ結局どう使えばいいねん。 となってしまうと思われる方もいるかもしれませんので、数学を例に具体例を交えて解説したいと思います   論理の起点とは 論理の起点とは、インプットの際に意識するべき三要素の最終段階 「そのインプットした内容がいつ使えるものなのか」までセットで覚えてしまおうという考え ...

「復習」ってやっぱり勉強において大事という話と具体的な方法を紹介

学校の先生やら塾の講師やらは散々言いますよね   「復習せい」と   もう耳タコで、頭では分かっているんです。   ですが、受験が近づくにつれ、勉強する量しなければいけない量が増えていくほど過去の勉強、つまり復習に手が回らなくなりがちで そもそも何回復習すれば良いのか、一定の回数復習しなければいけないとしてそのタイミングをスケジューリングしている時間がそもそももったいなくね???   みたいな悩みってあるあるだと勝手に思ってるんです。   例にもれず僕も散 ...

【モチベーション】受験勉強のやる気を出す方法

いきなりですが やる気の差というのは受験において本当に大きなものです。 皆さんがこれから今以上に学力、偏差値を上げたいのであればモチベーションの維持には細心の注意を払う必要があります。   しかしこの記事を読んでくださっている方の中には という方もいると思います。   実際、私も何度もやる気が出ずらかったことがあります。具体的には ・高校一年、二年のとき ・受験生、浪人生の春と秋 この時期は特に勉強のやる気が出ずらいと思います。この記事を読んでいる方にも心当たりある方もいるかもしれませ ...

人気記事ランキング

  • 本日
  • 週間
  • 月間

PickUp

1

  ゲームをしているとめっちゃいいプレイできたときとか録画して残しておきたいですよね。 あと自分のプレイとか後から見返して、分析したりして後からも楽しんだりしたいですよね   です ...

2

こんにちは!ノムユです! 受験期では参考書を一つに絞らずなんでもかんでも買ってしまってその全部をやってしまった 受験ではよくないとされている参考書マニアの僕が 数多ある参考書の中で一番、けた外れに勉強 ...

3

こんにちは!ノムユです!   僕は年間100万円以上オーディオに注ぎ込んでいる変態なので 結構イヤホンは持っている方なんですけど   それ以上にめちゃめちゃ聞きます。 なんなら有名 ...

サポート(投げ銭)