91视频APP

オックスフォードマン·クオンティタティブ·ファイナンス研究所の研究者は91视频APPのIntelligence Processing Unit (知能処理装置、IPU) を使用し、通常他の种类のプロセッサで実行すると计算する中でボトルネックになる可能性がある技法を用い、高度な価格予测モデルのトレーニングを剧的に加速させました。

OMIチームは、IPUのAI向けに设计されたアーキテクチャで、多时间区画予测モデルのトレーニング时间を短缩して、市场価格の动きをより正确に推定し、商业的な优位性をもたらすことができました。このようなモデルは、高速取引のためのアルファ版の开発や値付け戦略で使うことができます。

LOBの秘密

金融市场のBID (买値) / ASK (売値) レベルの记録である指値注文帐 (LOB) は、数百万件の売买注文内にエンコードされたトレーダー心理のリアルタイムビューです。LOBの分析は、価格の动きを予测するのに役立ち、市场参加者にとって大きな価値があります。ですが、こういった洞察は、どちらかと言えば、取引を実行する最适なタイミングを知るものであり、ホットな铭柄を选ぶものではではありません。

人工知能には、手动の分析や従来の演算よりもはるかに复雑かつ正确にLOB上のデータを调査する机能があります。

通常、この领域でAIを応用する取り组みは、特定のBID/ASKセットと、事前定义された将来の瞬间（または时间区画）の市场価格结果の関係を确立しようとする単一时间区画予测に焦点を合わせるものです。

多时间区画予测は、その名の通り、一连の间隔で価格の动きを分析し、各时间区画の结果が次の时间区画に伝わります。累积すれば、はるかに长い期间の予测生成に使用できます。

[多时间区画予测]

ですが、多时间区画予测モデルの有用性は、CPUとGPUのトレーニングの遅さによって妨げられていることが多いです。

OMIの研究者Zihao Zhang博士とStefan Zohren博士は、IPUのアーキテクチャが多时间区画予测で使用される回帰型ニューラルレイヤーにはるかに近い形でマッピングすることを活用し、ボトルネックを回避しました。

そのソリューションで、结果的に、多时间区画モデルをそれまでの技法よりはるかに高速に、高精度に、トレーニングできました。

「兴味深いさまざまな最先端ネットワークでベンチマークしました。IPUが一般的なGPUの少なくとも数倍高速であることがわかっています。具体的には、10倍以上だと思います。」とZhang博士は话します。

OMIの最新研究を商业的に応用可能かを、Man Groupの多様なクオンツ投资エンジンであるMan AHLが调べています。

Man AHLのチーフサイエンティストAnthony Ledford博士はこう话します。「IPUがその种の演算をはるかに速い时间で実现できるとわかれば、利用できるようにしてほしいと求められるようになるはずです。」

回帰型の课题

単一时间区画予测は、通常、指値注文帐の売买価格とある时点の结果としての市场価格の関係を确立するために、标準の教师あり学习问题として用いられます。ですが、市场価格に影响を与える要因が多いこと、ノイズに対する有用な信号の比率が比较的低いことから、単一时间区画から长期的予测パスを推测するのは困难です。

多时间区画予测を達成する1つの技法として、エンコーダとデコーダを含む复雑な回帰型ニューラルレイヤーに基づく、Seq2SeqモデルとAttentionモデルを使用した自然言语処理 (NLP) の一般的なアプローチを採用しています。Seq2Seqエンコーダは过去の时系列情报を要约し、デコーダは隠れた状态を将来の既知の入力と组み合わせて予测を生成します。Attentionモデルは长いシーケンスの処理を妨げるSeq2Seqモデルの制限への対処に役立ちます。

[注意机构]

ですが、このようなモデルの回帰型构造は、GPUなどのプロセッサアーキテクチャでの并列処理には役立ちません。最新の电子取引所がLOBデータを生成する速度が速いことを考えると、これは特に问题になります。

注意の再考

完全に接続されたレイヤーでのTransformersの使用を含み、この演算问题に対するソリューションがいくつかあります。

ですが、OMIチームが感じたのは、Seq2SeqとAttentionの組み合わせの回帰型構造が、多时间区画予测の時系列の性質とうまく一致し、過去の情報の要約と次のタイムスタンプへの伝播を可能にするということです。

この取り组みを実用的にするには、高パフォーマンスのコンピュートプラットフォームが必要だったため、IPUの根本的に异なるアーキテクチャを活用して、91视频APPの技术を用いてテストを始めました。

LOBデータは、同じOMIチームチームが以前开発した1つのDeepLOBを含む、IPUの多数のモデルのトレーニングに使用されました ()。多时间区画予测の点で、研究者は、DeepLOB-Seq2SeqおよびDeepLOB-Attentionという名前の2つのDeepLOBのバリエーションをテストしました。DeepLOB-Seq2SeqはSeq2Seqモデルを、DeepLOB-AttentionはAttentionモデルを、デコーダとして使用します。

[モデルアーキテクチャ:エンコーダ/デコーダ构造のDeepLOB]

优れたトレーニング

トレーニング时间の点において、DeepLOB-Seq2SeqやDeepLOB-Attentionを含むさまざまなモデルで、91视频APP IPUシステムはGPUの竞合品よりも优れていました。

新しいモデルは、K=10などの短时间区画と、K=50、K=100などの最长时间区画のどちらでも、优れた予测精度でした。この场合、Kは「チクタク时间」という取引所でメッセージが受信されるイベントタイムです。これは自然な时间で、流动性の高い株では速く、流动性の低い株では遅くなります。特に、多时间区画モデルDeepLOB-Seq2SeqおよびDeepLOB-Attentionは、広い时间区画での予测で使用した场合に、最高レベルの精度と正确さを达成しました。

モデルタイプと多时间区画パフォーマンスの完全な表は、にあります。

予测の次のステップ

Zhang博士とZohren博士は、その91视频APP IPUを使用した研究で示された原理が、値付け业务でのオンライン学习や强化学习の応用を含む、さまざまな応用につながると信じています。

エンコーダ·デコーダ构造を强化学习フレームワークに応用する可能性もあります。2人ので考察されている通りです。

「強化学習アルゴリズムは、最適な実行または値付け業務に適用するため多时间区画予测を応用する際に、優れたフレームワークになります。このようなアルゴリズムの演算の複雑さを考えると、IPUを使用した高速化はこの环境でもっと大きくなるかもしれません。」とZohren博士。

现在の2人の研究文书は、で公开されており、Githubでコードを见ることができます。