Query's uitvoeren op CSV-bestanden met meerdere records met behulp van SQL.

Mapconnector · Meerdere records

Converteer CSV-bestanden die verschillende recordtypen combineren naar SQL-tabellen Je kunt overal een zoekopdracht uitvoeren.

Wijs de Query Streams Agent naar de map. Deze leest de bestanden op zijn eigen computer, bouwt de tabellen op in een lokale cache en houdt ze actueel naarmate bestanden binnenkomen, wijzigen of verdwijnen. U kunt de tabellen vervolgens opvragen vanuit Excel, Google Sheets, Nova, Claude of de REST API. Er wordt niets geüpload en geen enkel bestand wordt geconverteerd of bewerkt.

Ongeveer 15 minuten Geen programmeerkennis vereist De bestanden blijven op uw netwerk. Het gratis abonnement dekt het.

Wat je uiteindelijk overhoudt

Je krijgt uiteindelijk één SQL-tabel per recordtype. Een CSV-bestand waarvan de regels zijn getagd met HDR, ITM en TRL wordt fileset.data_hdr, fileset.data_itm en fileset.data_trlElke kolom bevat dat recordtype uit elk bestand in de map. De kolommen zijn genummerd op basis van hun positie. veld_1 naar veld_Nen elke rij bevat _bronbestand en _seqZo kunt u een koptekst met de details verbinden met behulp van twee kolommen. De agent leest de map op zijn eigen computer, slaat de rijen daarin op in een versleutelde lokale opslag en levert deze als SQL aan Excel, Google Sheets, de Query Builder of een andere client. De bestanden blijven op uw netwerk.

Elke tabel bevindt zich in één schema met de naam bestandensetDe tabellen worden voor u benoemd, één per recordtag: data_<tag>, dus de tag HDR wordt fileset.data_hdr. Met Tabelbereik ingesteld op Eén tabel per bestandsextensie en tag., de naam wordt data_<extensie>_<tag>, waardoor dezelfde tag van verschillende bestandstypen gescheiden blijft. De kolommen zijn veld_1 naar veld_N op positie, waarbij de kolom met tags is weggelaten. Elke rij bevat ook _seq, de 0-gebaseerde voorkomst van die tag binnen het bestand en de koppelingssleutel tussen recordtypen, plus _bronbestand en een _rij_id van de vorm pad:regel.

Elke mapconnector biedt u ook de boekhoudtabellen. bestanden, bestanden_gebeurtenissen, mappen, map_snapshots en volumes.

Waar het zijn nut bewijst:

• Voer query's uit op bank-, salaris- of EDI-batchbestanden die kop-, detail- en voettekstregels combineren.
• Vergelijk de totalen van de trailers van elk bestand met de detailregels in één query.
• Laad binnenkomende batchbestanden in Excel of Google Sheets als volwaardige tabellen in plaats van ze handmatig te splitsen.

Wat je nodig hebt

Een Query Streams-account

Mapkoppelingen zijn beschikbaar in alle abonnementen, ook in het gratis abonnement. Het gratis abonnement is een abonnement dat je behoudt, geen proefperiode die verloopt. Er is geen limiet aan het aantal bestanden dat een map kan bevatten.

De Agent, versie 2.6.0 of later

Geïnstalleerd op een computer die de map kan openen: de bestandsserver zelf, een kantoorcomputer of de machine waarop de bestanden terechtkomen. Een oudere versie van Agent toont de mapkaarten grijs weergegeven met een Agent 2.6.0+ badge. Windows, Mac of Linux.

Het pad van de map, zoals de agent het ziet.

Een lokaal pad, of een netwerkshare die als volgt is geschreven: \\server\share\folder. The Agent runs as a service, so it cannot see drives you mapped at your login (Z: and friends). On Windows it can sign in to a share with a login you store; on Linux or a Mac, mount the share first (Linux under /mnt of /media, a Mac under /Volumes).

Stel het in vijf stappen in.

1. Installeer de agent op een computer die de map kan openen.

   Aanmelden, openen DownloadInstalleer de agent voor uw systeem op de computer die CSV-bestanden kan openen die verschillende recordtypen combineren: de bestandsserver of een andere computer die altijd aan staat en toegang heeft tot de gedeelde map. Dit duurt een minuut en start daarna automatisch. U hebt versie 2.6.0 of hoger nodig; de meest recente versie is altijd beschikbaar op de downloadpagina.

   Waarom een klein programma in plaats van een driver? De agent is een eenmalige installatie voor Windows, Mac of Linux (ongeveer 85 MB op Windows, iets meer dan 100 MB op Mac en Linux). Het opent één versleutelde uitgaande verbinding met Query Streams en dat is het enige netwerkpad dat nodig is: geen inkomende poort om te openen, geen VPN. Het leest de bestanden in de map waarin het zich bevindt, waardoor de bestanden op hun plaats blijven en alleen de rijen die een query retourneert via internet naar de add-in, browser of AI-client aan uw kant worden verzonden.

   De downloadpagina toont Uw toegangssleutelPlak het in de Agent wanneer daarom wordt gevraagd en wacht tot de badge is weergegeven. Verbonden met querystreamsDat is het enige wat je op de computer van de agent doet; al het andere gebeurt in je browser.

   Complete walkthroughs zijn beschikbaar als je die wilt: Windows, Mac, Linux.

2. Richt het op CSV-bestanden die verschillende recordtypen combineren.

   Ga terug naar uw browser Gegevens → GegevensagentenZoek de agent die je zojuist hebt geïnstalleerd en klik erop. Connector toevoegen knop. Open de Bestanden en mappen pil en kies de CSV-bestand met meerdere records kaart. Weet je niet zeker welke kaart past? Kies Bestanden in een map In plaats daarvan: de agent neemt een steekproef van de map, benoemt de inhoud op een pagina 'Wat we hebben gevonden' en opent de juiste, vooraf ingevulde kaart voor u.

   De tovenaar rent Mappen → Controleren → Instellingen → Realm → Controleren. Op Mappen:

   Hoofdmappen

   One path per line, as the Agent’s computer sees it. Each folder shows a status (reachable, denied, missing, unreachable, credentials invalid or not mounted) as soon as you add it. On a Windows Agent a share that needs a login gets one from the folder’s Credential column, stored once per server; on Linux or a Mac, mount the share first.

   Scan submappen, maximale diepte

   Aan, en standaard 8 niveaus.

   Patronen opnemen, patronen uitsluiten

   Welke bestanden tellen mee? Het include-patroon begint met de juiste glob voor deze kaart. Eén connector leest één bestandstype: een map met CSV-bestanden. en Parquet-bestanden hebben twee connectors in dezelfde map, één per bestandstype.

   Volg symbolische links en junctions

   Standaard uitgeschakeld. De agent volgt geen snelkoppelingen of cloud-placeholders, tenzij u deze functie inschakelt.

   Installeer de Query Streams Agent (versie 2.6.0 of hoger) op een computer die de map kan openen. Vanuit die agent... Connector toevoegen knop, openen Bestanden en mappen en kies de CSV-bestand met meerdere records kaart.

   • Hoofdmappen: de mappen op de agentcomputer die gescand moeten worden, één per regel. Typ netwerkshares als \\server\share\folder, geen toegewezen stationsletter.
   • Voeg patronen toe begint als **/*.csv.
   • Bestandsindeling, Kolom met recordtags (nummer) en ScheidingslijnWelke kolom bevat de recordtag en wat scheidt de velden?
   • Tabelbereik: laat de standaardinstelling voor één tabel per tag staan. Kies Eén tabel per bestandsextensie en tag. Om dezelfde tag van verschillende bestandstypen in aparte tabellen te bewaren.

   Er is geen Tabelnaam veld en geen Tabelindeling keuze. Tabellen worden benoemd data_<tag>Een toelichting legt uit dat alle overeenkomende bestanden dezelfde lay-out moeten hebben, die is gebaseerd op een voorbeeld van de eerste synchronisatie; bestanden die later afwijken, worden apart gezet en gerapporteerd.

3. Bekijk wat het zal bouwen

   Op Rekening De agent leest een voorbeeld van maximaal 64 bestanden en laat zien wat er gebouwd zal worden. Er is nog niets aangemaakt. De knop geeft de volgende tekst weer: Testverbinding totdat er een vonnis is, dan Volgende; Test opnieuw Het voorbeeld wordt opnieuw uitgevoerd nadat u iets hebt gewijzigd. U ziet dan een van de vier volgende kopteksten:

   Klaar om te creëren

   Elk geselecteerd bestand past. De chips eronder geven aan hoeveel mappen bereikbaar waren, hoeveel bestanden en rijen er waren en welke tabellen er aanwezig waren.

   Klaar, met aantekeningen.

   Sommige bestanden worden opzijgezet, of de lay-outcontrole wordt geweigerd. Een oranje banner geeft precies aan welke: "{n} van {m} bestand(en) worden opzijgezet" met een Geef aan welke bestanden het betreft en waarom. lijst, en "Je kunt het sowieso aanmaken - de connector blijft controleren en rapporteert de reden op het tabblad Manifest."

   Vereist aandacht

   De agent is offline of er ontbreekt een map. Los dit op voordat u verdergaat; als de agent offline is, wordt dit wel aangegeven, maar kunt u toch verdergaan.

   Een weigering of het terzijde leggen van bestanden blokkeert je nooit: klik hier. VolgendeVoltooi de wizard en repareer de afwijkende bestanden later. Alleen een offline agent of een ontbrekende map stopt de wizard.

   Op RekeningDe agent leest een steekproef van maximaal 64 bestanden en toont het aantal bestanden, de grootte, de geschatte rijgrootte en de tabellen die hij zal aanmaken, één per gevonden recordtag, in een chip zoals "3 tabellen: data_hdr, data_itm, data_trl". Er wordt nog niets aangemaakt. Als de tagkolom verkeerd is ingesteld, zullen de tags die de agent weergeeft niet overeenkomen met uw recordtypen. Dit is een teken dat u terug moet gaan en de instellingen moet aanpassen. Kolom met recordtags (nummer) of ScheidingslijnBestanden die de agent niet als CSV kon lezen, worden hieronder weergegeven. Geef aan welke bestanden het betreft en waarom. als apart gezet, met de banner "1 van de 12 bestanden wordt apart gezet", terwijl de rest nog steeds laadt. Je kunt de connector op beide manieren aanmaken; hij blijft controleren en rapporteert de reden op zijn scherm. Manifest tab.

4. Kies hoe vaak er gescand moet worden en maak het vervolgens aan.

   De standaardinstellingen op Instellingen Geschikt voor een map die dagelijks een paar bestanden ontvangt. Vier zaken die je wellicht wilt wijzigen:

   Scaninterval

   Elk uur Standaardinstelling; kies een frequentie van elke 5 minuten tot dagelijks. Elke scan vergelijkt de grootte en de wijzigingstijd om nieuwe, gewijzigde en verdwenen bestanden te vinden.

   Houd de map in de gaten voor wijzigingen (vrijwel in realtime).

   Standaard uitgeschakeld. Ingeschakeld reageert de agent binnen enkele seconden op lokale schijven; op netwerkshares werkt deze naar beste vermogen en blijft de geplande scan de garantie. Rustperiode (15 seconden) wacht tot het schrijven van een bestand is voltooid.

   Vernieuw de pagina voordat u een vraag beantwoordt.

   Standaard uitgeschakeld. In deze stand wordt een zoekopdracht eerst opnieuw uitgevoerd als de laatste scan ouder is dan de ingestelde waarde. Verouderingsvenster (60 seconden), wachtend op maximaal de Wachtlimiet voor query's (5 seconden). Dit geldt voor personen en invoegingen, niet voor het peilen van waarschuwingen.

   Wanneer een bestand verdwijnt

   Verwijder de rijen standaard, of Behoud rijen, markeer verwijderd (grafsteen)De Verdwijningspercentage (0.5) weigert een scan die meer dan de helft van de bestanden tegelijk verliest en behoudt de vorige inventaris, wat overeenkomt met hoe een offline gedeelde map eruitziet.

   Kies vervolgens de Gegevensrijk Het aantal rijen telt mee, controleer Beoordeling en klik Connector makenDe eerste scan start direct. De connector Manifest Het tabblad laat zien wat er is gebouwd en welke bestanden er zijn opgeslagen.

5. Kijk naar je tafels

   Open de connector: de Manifest Het tabblad toont de tabellen die zijn aangemaakt. In de Querybouwer dezelfde tafels staan onder de bestandenset schema. Drie query's die vanaf dag één werken:

   Koptekstrecords, in bestandsvolgorde

   SELECT _source_file, _seq, field_1, field_2 FROM fileset.data_hdr ORDER BY _source_file, _seq LIMIT 100

   Elke headerregel van elk bestand, met vermelding van het bestand waar deze vandaan komt en de positie ervan tussen de headers in dat bestand.

   De header van elk bestand naast de bijbehorende trailer.

   SELECT h._source_file, h._seq, h.field_1 AS header_field_1, t.field_1 AS trailer_field_1 FROM fileset.data_hdr AS h JOIN fileset.data_trl AS t ON t._source_file = h._source_file AND t._seq = h._seq ORDER BY h._source_file, h._seq LIMIT 100

   Voegt twee recordtypen samen op basis van de twee gedeelde kolommen, _source_file en _seq, zodat de n-de header en de n-de trailer in hetzelfde bestand samenkomen.

   Bestanden die apart zijn gezet vanwege een onbekende tag of onjuiste breedte.

   SELECT relative_path, event_type, detected_by, detail, event_at FROM fileset.files_events WHERE event_type IN ('refused', 'drift') ORDER BY event_at DESC LIMIT 20

   Elk bestand waarvan rijen zijn weggelaten, met een gedetailleerde uitleg van de reden.

   Elke mapconnector bedient ook dezelfde boekhoudtabellen, allemaal in de bestandenset schema:

   Tafel	Wat het bevat
   bestanden	Elk bestand dat zich momenteel in de map bevindt: pad, naam, extensie, grootte, aanmaak- en wijzigingsdatum, eerste en laatste keer gezien. Een overzicht van bestanden_huidig, die ook bestanden bewaart die verdwenen zijn.
   bestanden_gebeurtenissen	De wijzigingsgeschiedenis: één regel per bestand dat verscheen, was gewijzigd, verdwenen, werd opzijgezet (drift) of was geweigerd, met de tijd in event_athoe het werd opgemerkt in gedetecteerd_door en de reden in detail.
   mappen, map_snapshots, volumes	Het aantal mappen en hun grootte, hoe ze zijn gegroeid en op welke schijven of gedeelde mappen de wortels voortleven.
   _bronbestand, _rij_id	Elke gegevensrij bevat twee kolommen: het bestand waar de rij vandaan komt en een stabiele rij-ID binnen dat bestand. Groeperen op _bronbestand om bestanden te vergelijken.

Reaching a file on a network share

The Agent opens files as a background service, not as you, so a file on another computer needs one extra step. Which step depends on the computer the Agent runs on.

If the test cannot get to the share, look for these words in its result: unreachable means the Agent’s computer got no answer from the server. On Linux or a Mac, not mounted means the share still has to be mounted, and that message includes the exact mount command for your server.

When a folder is not reachable

Every folder on the Mappen step shows a status as soon as you add it. Hover the status to read the Agent’s own message; its first words say which case it is.

Gebruik het overal

De connector is een gegevensbron, net als elke andere in Query Streams. Sla een query eenmaal op in de Querybouwer (het dialect is DuckDB) en gebruik het vanuit:

Excel

De add-ons Een query streamen De rijen worden in een spreadsheet geplaatst en met een muisklik opnieuw uitgevoerd. SQL-query's uitvoeren in Excel.

Google formulieren

De Query Streamer De add-on vult een tabblad dat je selecteert. Power Query voor Google Sheets.

Claude, Cursor en andere AI-clients

Via de Query Streams MCP-server kent Claude het mapmodel, inclusief _bronbestand en bestanden_gebeurtenissen. Multi-record met Claude via MCP.

REST API

Elke opgeslagen query wordt een alleen-lezen eindpunt met een eigen sleutel, in elk plan. REST API voor meerdere records.

Nova

Stel uw vragen in begrijpelijke taal over het bedrijfsplan; Nova kent elke map, tabel en kolom dankzij de ingebouwde beschrijvingen.

Automatiseringen

Synchroniseer de rijen met Airtable, Smartsheet, Baserow, SeaTable of een spreadsheet volgens een planning. Automatiseringshandleidingen.

Maptabellen kunnen ook gekoppeld worden aan uw andere connectors: een gefedereerde query kan overeenkomsten vinden. _bronbestand namen of order-ID's in CSV-bestanden die verschillende recordtypen combineren ten opzichte van een database op dezelfde agent.

Hoe nieuwe, gewijzigde en verwijderde bestanden worden weergegeven

Bestanden die apart zijn gezet.

Op de stap 'Controleren' en het tabblad 'Manifest' staan drie woorden. Ze hebben verschillende betekenissen:

Aan de kant zetten (parkeren)

Het bestand komt niet overeen met de vastgezette lay-out, of is onleesbaar, beschadigd, vergrendeld of te groot. Het is alles of niets per bestand: een geparkeerd bestand draagt nul rijen bij. bestanden_gebeurtenissen records een drift rij waarvan detail De bestandsnaam en de kolomnaam worden doorgegeven. Het bestand wordt overgeslagen zolang de grootte en de wijzigingstijd hetzelfde blijven, en opnieuw geprobeerd zodra deze wijzigen.

Onleesbaar

De agent kon het bestand niet openen of verwerken vanwege het type: geen echt werkblad, vergrendeld door een ander programma, een cloud-placeholder, onleesbare bytes. Het bestand wordt automatisch afgesloten en de rest van de map wordt wel verwerkt. Alleen een map met nul leesbare bestanden weigert de volledige set.

Geweigerd

De agent kon geen enkele lay-out vastzetten, bijvoorbeeld omdat bestanden het niet eens waren over een kolomtype. Er bestaat nog geen gegevenstabel. bestanden_gebeurtenissen krijgt een geweigerd rij met de reden in detailEn de agent probeert het bij elke scan opnieuw totdat een lay-out wordt vastgezet. Corrigeer of sluit het bestand uit dat wordt genoemd en de melding verdwijnt.

Waar te kijken: de amberkleurige banner op Rekening (Geef aan welke bestanden het betreft en waarom.), de connector Manifest tab daarna. In SQL: SELECT relative_path, event_type, detail FROM fileset.files_events WHERE event_type IN ('drift','refused') ORDER BY event_at DESC.

Grenzen die het waard zijn om te kennen

Er is geen limiet aan het aantal mappen of bestanden in het abonnement. De rijen tellen wel mee voor uw Data Realm, net als bij elke andere connector. U kunt de standaardinstellingen van de connector verhogen of verlagen:

Inhoudslimieten, die een bestand parkeren in plaats van het te verkleinen: 2.000.000 rijen of 512 MiB per bestand, 10.000.000 rijen of 2 GiB per scan. Een map kan maximaal 25 verschillende lay-outs bevatten. Eén tafel per lay-out modus.

Vragen die mensen stellen

• Bestandssysteem
• CSV-map
• Parquet-map
• Excel-map
• SQLite-map
• JSONL-map
• Machinelogboeken
• Webserverlogboeken
• Containerlogboeken
• Toepassingslogboeken
• Systeemlogboeken
• Aangepaste logboeken