自費出版に関して、何か失敗談があれば教えてください。

自費出版ではなく同人誌なら失敗談ありです。
同人誌活動したことある身では、自費出版など恐くてできません。

初めて出す同人誌（なおかつイベント初参加でコネも無し）に、オフセット印刷で200部刷って、売れたのが合計十数冊。
残りは全て在庫になり、その後、新しい本が売れるようになっても、当時の画力・筆力共にヘボだったので、最終的には全て廃棄処分になりました。
その後は反省し、コピー本で、なおかつ毎回知恵を振り絞って、ちゃちに見えないように装丁・編集・内容に凝りまくり、少部数（20～40部）にして、なおかつ知名度を上げるために地元新聞紙など人目につくところへイラスト投稿しまくって常連になり、ペーパーや手書きポスターなどを作って広報し、どんなに忙しくてもスケブ（同人誌即売会イベントでは無料でスケッチブックに絵を描いて欲しいと言われることがしばしばある。時間や手間がかかる。サイン帳のようなものかも）を断らず、少しずつ、常連客を増やし、イベントではなるべく人（他のサークルや客など）と会話し、意見交換・感想・TIPSなどを取り入れ、以後役立てました。
売れないものを売るには、顧客の需要や要望に応えていかねばなりません。
広告に金を使えないのであれば、クチコミで広げていかねばなりませんが、クチコミだけではなかなか難しいので、露出を増やして、人の目につきやすくする必要もあります。
が、それでも内容が悪ければ、問題外です。
自費出版でも、同人誌でも、元手（印刷または出版費用）が取れれば御の字で、たいていは赤字だと思います。

同人誌の話でしたら自分の話はできます。
読者のことを考えずに自己満足なもの作ってしまった。
これですかね。誰でもやる失敗は。
かといって読者にこびるだけの本は最低ですけどね。

「薄っぺらな本でも 100 冊も集まるとかさばるし重い」という当たり前のことに気づいたのが、大量の売れ残りを目の前にしたイベント終了時だった、というほろ苦い思い出があります。撤収を急ぐ見知らぬ人たちに配って減らしました。