PyCaret

Python 回帰モデルの予測精度を兎に角、向上する手法スタッキング「PyCaret」

本記事では、Pycaretを用いて、スタッキング(Stacking)回帰モデルを構築する雛形コードを載せました。概要は下記です。 # スタッキング stacked_model = stack_models(estimator_list = [reg], # 合成する回帰モデルをリストで指定。複数指定可 meta_model…

Python 説明変数間が従属関係にある制約条件下での多目的最適化「PyCaret×Optuna」

本記事では、説明変数間が従属関係にある制約条件下での多目的最適化を実施して、下図のようなパレート解を取得する雛形コードを載せました。 下図はその実施例です。説明変数3つ「PTRATIO」「INDUS」「DIS」の和が固定値25という制約下で乱数により、多目的…

Python 回帰モデルの作成と多目的最適化によるパレート解の作成「PyCaret×Optuna」

本記事では、PyCaretを用いてベストな回帰モデルを自動で作成する雛形コードと、作成した複数の回帰モデル(バイナリファイル)を利用して、Optunaを用いて多目的最適化を行う雛形コードを載せました。 最終的には、複数の目的変数に対して最小値or最大値を…

Python 回帰モデルの最小値or最大値をベイズ最適化により探索する「PyCaret×GPyOpt」

本記事では、回帰モデル(目的関数)の最小値もしくは最大値をベイズ最適化のライブラリ「GPyOpt」で探索する雛形コードを載せました。最適結果に加えて、最適解の探索過程の目的変数と説明変数の履歴もcsvファイルに保存する仕様です。 はじめに、回帰モデ…

Python 機械学習の自動化AutoML「PyCaret」のインストール手順

'22/01/09更新:Pycaretは、現在ではPython3.6, 3.7, 3.8系にも動作します。 ■作業1. はじめに仮想環境を構築して、そこにインストールすることが吉です。その理由は、適宜バックアップをとっておけば、環境が壊れた場合に復活が容易なためです。仮想環境の…

Python 「PyCaret」ベストな回帰モデルを自動選定するautoml()

'20/12/13更新:PyCaretのverup2.2に伴いコードや図を編集、差し替えしました。 本記事では、機械学習でお馴染みのボストン住宅価格のデータセットを用いて、多数ある回帰モデルからベスト回帰モデルを抽出してオブジェクトファイルに保存する雛形コードを載…

Python 「PyCaret」複数の回帰モデルをCUIで自動生成する

PyCaretは、対話型のIDEであるJupyter Notebook、Jupyter Lab、 Google Colaboratory等での使用を推奨しています。そのため、コマンドライン(CUI)ではエラーで動作ストップする場合もいくらか遭遇します。そこで、本記事ではCUIで実行する場合でも、それに…

Python 「PyCaret」ハイパーパラメータの自動チューニング【カスタムパラメータ設定の方法】

PyCaretにはハイパーパラメータのチューニングを自動で行う機能が備わっています。一方、その項目と範囲を手動で設定することも出来ます。本記事では、そのカスタム設定に加えて自動設定した場合とで得られたハイパーパラメータの比較、適合度の比較とその雛…