Как реализовать файловую систему?

Я в качестве первой ФС брал FAT16. Она очень простая и поддерживается практически всеми современными системами. Гугли "Microsoft FAT Specification", - это PDF на 37 страниц, подробный, последовательный, с примерами кода.
Используй INT 13h для доступа к накопителю. Напиши свою утилиту format. Если отформатированный твоей утилитой накопитель распознает сторонняя система, то ты на правильном пути :)
Дальше пишешь функции для чтения, записи и удаления файлов в FAT - это тоже будут обёртки над INT 13h: прочитал сектор(а) в буфер, модифицировал, записал.

1. Должен быть драйвер для работы с диском (если ты не в real режиме)
2. Придумай какой-нибудь формат, как ты будешь данные на диски хранить
3. Нужно реализовать какие-то системые вызовы для обращения к файловой системе, чтобы программы для твоей ОС тоже могли работать с диском

Чтобы не придумывать что-то совсем с нуля - возьми какой-нибудь FAT12/16/32, они хорошо задокументированы.
Если с виртуальной машиной или эмулятором работаешь, то проще всего будет реализовать драйвер для чего-нибудь древнего типа IDE / ATA / PATA.
Драйвер для SATA и уж тем более nvme будет реализовать тяжело.

Читать тут:
https://wiki.osdev.org/Expanded_Main_Page

Есть же https://wasm.in/