4Xsample/wikipedia-ca-2026-bge-m3

Catalan Wikipedia Vectorized - BGE-M3 (May 2026)

Viquipèdia en Català Vectoritzada - BGE-M3 (Maig 2026)

Motivation / Motivació

EN: After searching for a pre-vectorized Catalan Wikipedia corpus using the BGE-M3 model (chosen for its strong performance in Catalan and efficiency on consumer hardware) and not finding a ready-to-use version at 1024 dimensions, I decided to generate it locally. After 5 days of computation, I am sharing this dataset to save the community the processing time and resources required to replicate it.

CA: Després de buscar un corpus de la Viquipèdia en català ja vectoritzat amb el model BGE-M3 (escollit pel seu bon rendiment en català i eficiència en hardware domèstic) i no trobar cap versió a 1024 dimensions llista per fer servir, vaig decidir generar-lo localment. Després de 5 dies de càlcul, comparteixo aquest dataset per estalviar a la comunitat el temps de processament i els recursos necessaris per replicar-lo.

---

Processing Pipeline / Procés de Processament

1. Cleaning / Neteja

EN: Surgical post-ingestion cleanup to remove MediaWiki artifacts, residual brackets [[ ]], and technical tags like <timeline> or <math> which lack semantic value for RAG. CA: Neteja quirúrgica post-ingesta per eliminar artefactes de MediaWiki, brackets residuals [[ ]] i etiquetes tècniques com <timeline> o <math> que no tenen valor semàntic per a RAG.

2. Chunking / Fragmentació

EN: Articles were split into chunks of ~1000 characters with a 100-character overlap, respecting word boundaries to maintain semantic context. CA: Els articles s'han dividit en fragments d'uns 1000 caràcters amb un solapament de 100 caràcters, respectant el límit de les paraules per mantenir el context semàntic.

3. Vectorization / Vectorització

EN: Embeddings generated locally using Ollama (BGE-M3). All vectors are normalized to unit length, meaning that Inner Product can be used as a direct measure of Cosine Similarity. CA: Els embeddings s'han generat localment mitjançant Ollama (BGE-M3). Tots els vectors estan normalitzats, el que significa que el Producte Escalar (Inner Product) es pot utilitzar com a mesura directa de la Similitud Coseno.

---

Technical Decisions / Decisions Tècniques

Hardware & Performance / Maquinari i Rendiment:

• CPU: AMD Ryzen 7 2700X (16 threads).
• GPU: NVIDIA GeForce RTX 3060 12GB.
• RAM: 16GB DDR4.
• Processing Time: Approximately 115 hours of net compute time over a 5-day period (May 2026).

FAISS Index (SQ8) / Índex FAISS (SQ8):

• EN: The included FAISS index uses Scalar Quantization (SQ8). This decision was driven by local hardware constraints (16GB RAM) during the indexing process. This optimization reduces the index size from ~10GB to 2.4GB, making it accessible for users with similar workstation setups while maintaining high retrieval accuracy (>99%).
• CA: L'índex FAISS inclòs utilitza Quantització Escalar (SQ8). Aquesta decisió respon a les limitacions del maquinari local (16GB de RAM) durant el procés de generació. L'optimització redueix la mida de l'índex de ~10GB a 2,4GB, fent-lo accessible per a usuaris amb estacions de treball similars i mantenint una alta precisió de recuperació (>99%).

---

Limitations / Limitacions

• EN: This dataset contains cleaned plain text only. It does not include images, complex tables, or MediaWiki templates.
• CA: Aquest dataset conté exclusivament text net. No inclou imatges, taules complexes ni plantilles de MediaWiki.

---

Dataset Structure / Estructura de les Dades

Field / Camp	Type / Tipus	Description / Descripció
id	string	Unique identifier (UUID v5 based on title and chunk index). / Identificador únic (UUID v5).
title	string	Original Wikipedia article title. / Títol original de l'article.
text	string	Cleaned text content of the chunk. / Contingut de text netejat.
url	string	Direct link to the source article. / Enllaç directe a l'article font.
vector	float32[1024]	Native 1024-dim dense vector embedding (BGE-M3). / Embedding vectorial dens natiu (BGE-M3).
source_version	string	Cleaning process tag (e.g., cawiki_v1_cleaned_20260505). / Etiqueta de la versió de neteja.
cleaned_at	int64	Unix timestamp (seconds) of the vectorization. / Timestamp Unix del moment de vectorització.

---

Usage / Ús

from datasets import load_dataset

# Load the dataset
dataset = load_dataset("4Xsample/wikipedia-ca-2026-bge-m3", split="train")

# Access a specific example
example = dataset[0]
print(f"Title: {example['title']}\nURL: {example['url']}\nText: {example['text'][:200]}...")

# (Optional) To use the FAISS index:
# dataset.load_faiss_index('vector', 'index.faiss')

Licensing / Llicència

CC BY-SA 4.0 - This dataset is derived from Wikipedia and is subject to the Creative Commons Attribution-ShareAlike 4.0 International License.

Citation / Citació

@misc{4xsample-cawiki-vectorized-2026,
  author = {4Xsample},
  title = {Catalan Wikipedia Vectorized - BGE-M3 (May 2026)},
  year = {2026},
  publisher = {Hugging Face},
  journal = {Hugging Face Repository},
  howpublished = {\url{https://huggingface.co/datasets/4Xsample/wikipedia-ca-2026-bge-m3}}
}