L'Arca dell'Alleanza, secondo la Bibbia, era una cassa di legno rivestita d'oro e riccamente decorata, la cui costruzione fu ordinata da Dio a Mosè, e che costituiva il segno visibile della presenza di Dio in mezzo al suo popolo. L'Arca è descritta dettagliatamente nel libro dell'Esodo (25, 10-21; 37, 1-9): era una cassa di legno di acacia rivestita d'oro all'interno e all'esterno, di forma parallelepipeda, con un coperchio d'oro puro sul quale erano due statue di cherubini anch'esse d'oro, con le ali spiegate. Le dimensioni erano di due cubiti e mezzo di lunghezza, un cubito e mezzo di larghezza e altezza, ovvero circa 110×60×60 cm. Ai lati erano fissate con quattro anelli d'oro due stanghe di legno dorato, per le quali l'arca veniva sollevata quando la si trasportava.
All'interno della cassa erano conservati un vaso d'oro contenente la manna, la verga di Aronne che era fiorita e le Tavole della Legge. (Ebrei 9:4;). Tuttavia, al momento dell'inaugurazione del Tempio di Salomone non conteneva altro che le Tavole della Legge (Deuteronomio 10, 1-5; 1 Re 8, 9; 2 Cronache 5, 2-10).Il compito di trasportare l'arca era riservato ai leviti: a chiunque altro era vietato toccarla. Quando Davide fece trasportare l'arca a Gerusalemme, durante il viaggio un uomo di nome Uzzà vi si appoggiò per sostenerla, ma cadde morto sul posto (2 Samuele 6, 1-8).Secondo la tradizione l'arca veniva trasportata coperta da un telo di pelle di delfino coperto da un ulteriore telo di stoffa viola e, quando il popolo ebraico si fermava, veniva posta in una tenda specifica, definita "Tenda del Signore" o "Tenda del convegno" senza che venisse mai esposta al pubblico, se non in casi eccezionali.Inoltre la leggenda vuole che l'arca, in alcune situazioni, si adornasse di un alone di luce e che da essa scaturissero dei lampi di luce divini, delle folgori, capaci di incenerire chiunque ne fosse colpito e nel caso non avesse rispettato il divieto di avvicinarvisi; infine, tramite l'arca, Mosè era in grado addirittura di parlare con Dio che compariva seduto su un trono fra i due cherubini che ornavano il coperchio e che rappresentano l'angelo Metatron e l'angelo Sandalfon.
Durante la peregrinazione degli Israeliti nel deserto, l'arca rimase sempre nel loro accampamento, spostandosi insieme a loro. Dopo l'entrata del popolo ebraico nel paese d'Israele, la Tenda del convegno fu eretta a Silo (Giosuè 18, 1) e vi rimase fino al tempo di Samuele. A quel tempo gli Israeliti decisero di portare l'arca in battaglia contro i Filistei perché assicurasse loro la vittoria, ma vennero sconfitti e l'arca fu catturata dal nemico (1 Samuele 4, 1-11). Scoppiò però una grave pestilenza tra i Filistei a causa della presenza dell'arca tra loro, per cui dopo sette mesi decisero di restituirla agli ebrei (1 Samuele 5-6). L'arca fu quindi posta nella città di Kiriat-Iearim (1 Samuele 7, 1) e vi rimase finché il re Davide la fece trasferire nella città di Davide, ossia la rocca di Gerusalemme (2 Samuele 6). Infine trovò la sua collocazione definitiva quando Salomone, figlio e successore di Davide, la fece collocare nel Tempio di Gerusalemme da lui fatto costruire (1 Re 8, 1-9).
Secondo quest'affermazione del Talmud si ritiene che l'Arca sia ancora situata nel luogo originario del Sancta Sanctorum: infatti già re Salomone, poiché profetizzò la futura distruzione del Tempio, fece costruire un luogo sotterraneo in cui nasconderla in seguito nel caso di attacchi nemici; la tradizione ebraica vuole che re Giosia l'abbia poi nascosta 22 anni prima della distruzione del Tempio fatto costruire da re Salomone. Si insegna infatti che anche durante il Secondo Tempio di Gerusalemme essa non fu all'interno del Sancta Sanctorum ma sempre in un luogo sotterraneo del Tempio non mancando comunque la sua funzione di santità.Si ritiene infatti che la Gloria divina si sia rivelata durante il primo Tempio ma non durante il secondo sebbene fosse comunque presente.Nel passo che parla del saccheggio degli arredi sacri del Tempio (2 Re 25, 8-17), vengono elencati in modo minuzioso tutti gli oggetti che furono portati a Babilonia, ma non si fa menzione alcuna dell'Arca dell'Alleanza. Secondo il libro di Esdra, Ciro, re dei Persiani, restituì gli arredi sacri, che evidentemente erano stati custoditi a Babilonia durante l'esilio, ma ancora una volta non viene nominata l'Arca (1, 7-11).
Si ritiene generalmente che l'arca sia andata distrutta nel 586 a.C., quando i Babilonesi conquistarono Gerusalemme e distrussero il Tempio.Secondo il secondo libro dei Maccabei (2, 1-8), il profeta Geremia sottrasse l'Arca alla distruzione portandola via da Gerusalemme e nascondendola sul Monte Nebo. Il libro dei Maccabei riporta però fatti avvenuti più di tre secoli prima, e quindi potrebbe essere influenzato da leggende e/o interpolazioni successive. Questo brano del libro dei Maccabei, e in particolare il riferimento che l'Arca rimarrà segreta finché Dio non avrà riunito la totalità del suo popolo e si sarà mostrato propizio, ha legato l'Arca alla promessa escatologica della salvezza del popolo ebraico.Secondo un'antica tradizione contenuta nel testo sacro etiope Kebra Nagast (il Libro della Gloria dei Re), l'Arca sarebbe invece stata donata da Re Salomone a Menelik I, il figlio da lui avuto dalla regina di Saba, leggendaria fondatrice della nazione etiope. (Secondo un'altra versione, Salomone volle donare a Menelik una copia dell'Arca, ma questi la scambiò di nascosto con l'originale). Vi è ancora oggi una chiesa cristiana di rito copto in Etiopia a Axum nella quale i religiosi etiopici sostengono di conservare l'Arca; tale affermazione non può però essere verificata in quanto, essi dicono, l'Arca è un oggetto così sacro che a nessuno può essere permesso di vederla. L'unica persona a cui è concesso questo privilegio è il suo custode: egli vive in solitudine nella cappella dove sarebbe riposta l'Arca senza avere contatti col mondo e alla protezione della reliquia dedica la sua intera vita. Nell'aprile 2010, il patriarca della Chiesa Etiope, in visita a Roma, ribadisce questa versione, asserendo che l'Arca, da lui vista, è in buonissime condizioni di conservazione
Secondo altri, l'Arca fu seppellita nel Tempio per preservarla dalla distruzione, e ritrovata nel Medioevo dai Templari, che avevano in quel luogo la loro sede, i quali la custodirono in segreto. Vi è oggi una setta massonica scozzese, i cui membri si dichiarano eredi dei Templari, che afferma di esserne in possesso. Anche questi rifiutano però di mostrarla.
Il professor Tudor Parfitt, docente presso la School of Oriental and African Studies di Londra, è del parere che l'Arca dell'Alleanza si trovi in Zimbabwe e che sarebbe stata portata lì da Gerusalemme. A supporto di ciò ci sarebbero le proprietà, a detta sua simili a quelle dell'Arca, dell'oggetto sacro della tribù dei lemba, una specie di tamburo di nome ngoma lungundu. Inoltre i lemba avrebbero discendenze dirette israelite.Il 19 giugno 2009 il patriarca della Chiesa ortodossa etiopica Abuna Paulos, in una conferenza stampa tenutasi all'Hotel Aldrovandi a Roma, cui ha partecipato anche il principe Makonnen Haile Selassie, presunto nipote dell'imperatore d'Etiopia Hailé Selassié I, e il duca Amedeo D'Aosta ha dichiarato che "L'Etiopia è il trono dell'Arca dell'Alleanza. L'Arca dell'Alleanza è stata in Etiopia per 3.000 anni e adesso è ancora lì e con la volontà di Dio continuerà ad essere lì. È per via del miracolo che è arrivata in Etiopia. L'ho vista con senso di umiltà, non con orgoglio, come quando si va in chiesa. È la prima volta che dico questo in una conferenza stampa. Ripeto l'Arca dell'Alleanza è in Etiopia e nessuno di noi sa per quanto tempo ancora. Solo Dio lo sa. Tutto quello che si trova nell'Arca è descritto perfettamente nella Bibbia. Lo stato di conservazione è buono perché non è fatta da mano d'uomo, ma e' qualcosa che Dio ha benedetto. Ci sono molti scritti e prove evidenti sulla presenza dell'Arca in Etiopia. Non sono qui per dare delle prove che l'Arca sia in Etiopia, ma sono qui per dire quello che ho visto, quello che so e che posso testimoniare. Non ho detto che l'Arca sarà mostrata al mondo. È un mistero, un oggetto di culto”. Due giorni prima, il Patriarca aveva annunciato che "presto il mondo potrà ammirare l'Arca dell'Alleanza descritta nella Bibbia come il contenitore delle Tavole della Legge che Dio consegnò a Mosè”, e che “ad Axum sorgerà il Museo chiamato a ospitare l'Arca”.
Alla vicenda dell'Arca s'ispira il film "I predatori dell'Arca perduta".