当時は紙などありませんでしたから、古代ギリシアを含め、エジプトなど地中海世界では材質の柔らかい石灰岩をメモ帳の代わりに使う慣習がありました。
陶器の破片、つまり陶片(オストラコン)は、安価でどこにでもあるものだったので、当時は便利な投票用紙として利用されたのです。
ちなみに「オストラコン」というのは「貝殻」を意味し、オストラコンが貝殻ほどの大きさであったことに由来しています。