＞機械学習モデルはソフトウェアではない。ソフトウェアは、私のような人間によって書かれる。機械学習モデルは訓練される。 [...] モデルを修正したければ、ずっと多くのものが必要になる。訓練を行うソフトウェア、訓練に使うデータ、訓練のプランなど。話はずっと複雑である。しかも、訓練を正確に再現するのは難しいし、不可能に近い場合もある。
https://www.yamdas.org/column/technique/to-trust-ai-it-must-be-open-and-transparent-periodj.html

まったくもってそのとーり